首页 > 资讯列表 >  本页面生成质量安全专题报道,质量安全滚动新闻,质量安全业界评论等相关报道!
  • 郭剑波院士:储能大规模应用的前提是安全,经济是关键

    郭剑波院士:储能大规模应用的前提是安全,经济是关键

    6月5日消息,2023中国能源产业发展年会“新型储能投融资研讨会”上,中国工程院院士郭剑波表示,储能是新型电力系统最重要的技术之一,也是备受关注的技术,它的发展趋势是需求大、增长快、种类杂、功用多。储能技术的选择,储能大规模应用的前提是安全,经济是关键,价值兑现和市场机制是出口...

    业界动态 2023-06-05 19:32:48
  • 大量安卓用户逃离,换iPhone,Android13保有量不足15%

    大量安卓用户逃离,换iPhone,Android13保有量不足15%

    快科技6月4日讯,谷歌分享的最新数据显示,在2021年第二季度,iOS在全球范围内增长了2%至26%,而Android则下降了2%至72%。2023 年, Android 13系统设备的保有量目前占比大约不到15%。虽然从4月份的12.1%提升到了如今的14...

    手机互联 2023-06-05 00:08:16
  • GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑

    GPT-4变笨引爆舆论!文本代码质量都下降,OpenAI刚刚回应了质疑

    梦晨 克雷西 发自 凹非寺量子位 | 公众号 QbitAI大模型天花板GPT-4,它是不是……变笨了?先是少数用户提出质疑,随后大量网友表示自己也注意到了,还贴出不少证据。有人反馈,把GPT-4的3小时25条对话额度一口气用完了,都没解决自己的代码问题。无奈切换到GPT-3.5,反倒解决了。总结下大家的反馈,最主要的几种表现有:以前GPT-4能写对的代码,现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑,OpenAI是不是为了节省成本,开始偷工减料?两个月前GPT-4是世界上最伟大的写作助手,几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。这就不免让人想起微软新必应“出道即巅峰”,后来惨遭“前额叶切除手术”能力变差的事情……网友们相互交流自己的遭遇后,“几周之前开始变差”,成了大家的共识。一场舆论风暴同时在Hacker News、Reddit和Twitter等技术社区形成。这下官方也坐不住了。OpenAI开发者推广大使Logan Kilpatrick,出面回复了一位网友的质疑:API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。不放心的网友继续追问确认“就是说GPT-4自从3月14日发布以来都是静态的对吧?”,也得到了Logan的肯定回答。“我注意到对于某些提示词表现不一致,只是由于大模型本身的不稳定性吗?”,也得到了“Yes”的回复。但是截至目前,针对网页版GPT-4是否被降级过的两条追问都没有得到回答,并且Logan在这段时间有发布别的内容。那么事情究竟如何,不如自己上手测试一波。对于网友普遍提到GPT-4写代码水平变差,我们做了个简单实验。实测GPT-4“炼丹”本领下降了吗?3月底,我们曾实验过让GPT-4“炼丹”,用Python写一个多层感知机来实现异或门。△ShareGPT截图,界面稍有不同让GPT-4改用numpy不用框架后,第一次给出的结果不对。在修改两次代码后,运行得到了正确结果。第一次修改隐藏神经元数量,第二次把激活函数从sigmoid修改成tanh。6月2日,我们再次尝试让GPT-4完成这个任务,但换成了中文提示词。这回GPT-4第一次就没有使用框架,但给的代码仍然不对。后续只修改一次就得到正确结果,而且换成了力大砖飞的思路,直接增加训练epoch数和学习率。回答的文字部分质量也未观察到明显下降,但响应速度感觉确实有变快。由于时间有限,我们只进行了这一个实验,且由于AI本身的随机性,也并不能否定网友的观察。最早4月19日就有人反馈我们在OpenAI官方Discord频道中搜索,发现从4月下旬开始,就不时有零星用户反馈GPT-4变差了。但这些反馈并未引发大范围讨论,也没有得到官方正式回应。5月31日,Hacker News和Twitter同天开始大量有网友讨论这个问题,成为整个事件的关键节点。HackerNews一位网友指出,在GPT-4的头像还是黑色的时候更强,现在紫色头像版在修改代码时会丢掉几行。在Twitter上较早提出这个问题的,是HyperWrite(一款基于GPT API开发的写作工具)的CEO,Matt Shumer。但这条推文却引发了许多网友的共鸣,OpenAI员工回复的推文也正是针对这条。不过这些回应并没让大家满意,反而讨论的范围越来越大。比如Reddit上一篇帖子提到,原来能回答代码问题的GPT-4,现在连哪些是代码哪些是问题都分不出来了。在其他网友的追问下,帖子作者对问题出现的过程进行了概述,还附上了和GPT的聊天记录。对于OpenAI声称模型从三月就没有改动过,公开层面确实没有相关记录。ChatGPT的更新日志中,分别在1月9日、1月30日、2月13日提到了对模型本身的更新,涉及改进事实准确性和数学能力等。但自从3月14日GPT-4发布之后就没提到模型更新了,只有网页APP功能调整和添加联网模式、插件模式、苹果APP等方面的变化。假设真如OpenAI所说,GPT-4模型本身的能力没有变化,那么这么多人都感觉它表现变差是怎么回事呢?很多人也给出了自己的猜想。第一种可能的原因是心理作用。Keras创始人François Chollet就表示,不是GPT的表现变差,而是大家度过了最初的惊喜期,对它的期待变高了。Hacker News上也有网友持相同观点,并补充到人们的关注点发生了改变,对GPT失误的敏感度更高了。抛开人们心理感受的差异,也有人怀疑API版本和网页版本不一定一致,但没什么实据。还有一种猜测是在启用插件的情况下,插件的额外提示词对要解决的问题来说可能算一种污染。△WebPilot插件中的额外提示词这位网友就表示,在他看来GPT表现变差正是从插件功能开始公测之后开始的。也有人向OpenAI员工询问是否模型本身没变,但推理参数是否有变化?量子位也曾偶然“拷问”出ChatGPT在iOS上的系统提示词与网页版并不一致。如果在手机端开启一个对话,它会知道自己在通过手机与你交互。会把回答控制在一到两句话,除非需要长的推理。不会使用表情包,除非你明确要求他使用。△不一定成功,大概率拒绝回答那么如果在网页版继续一个在iOS版开启的对话而没意识到,就可能观察到GPT-4回答变简单了。总之,GPT-4自发布以来到底有没有变笨,目前还是个未解之谜。但有一点可以确定:3月14日起大家上手玩到的GPT-4,从一开始就不如论文里的。与人类对齐让AI能力下降微软研究院发表的150多页刷屏论文《AGI的火花:GPT-4早期实验》中明确:他们早在GPT-4开发未完成时就得到了测试资格,并进行了长期测试。后来针对论文中很多惊艳例子,网友都不能成功用公开版GPT-4复现。目前学术界有个观点是,后来的RLHF训练虽然让GPT-4更与人类对齐——也就更听从人类指示和符合人类价值观——但也让它自身的推理等能力变差。论文作者之一、微软科学家张弋在中文播客节目《What’s Next|科技早知道》S7E11期中也提到:那个版本的模型,比现在外面大家都可以拿得到的GPT-4还要更强,强得非常非常多。举例来说,微软团队在论文中提到,他们每隔相同一段时间就让GPT-4使用LaTeX中的TikZ画一个独角兽来追踪GPT-4能力的变化。论文中展示的最后一个结果,画得已经相当完善。但论文一作Sebastien Bubeck后续在MIT发表演讲时透露了更多信息。后来当OpenAI开始关注安全问题的时候,后续版本在这个任务中变得越来越糟糕了。与人类对齐但并不降低AI自身能力上限的训练方法,也成了现在很多团队的研究方向,但还在起步阶段。除了专业研究团队之外,关心AI的网友们也在用自己的办法追踪着AI能力的变化。有人每天让GPT-4画一次独角兽,并在网站上公开记录。从4月12日开始,直到现在也还没看出来个独角兽的大致形态。当然网站作者表示,自己让GPT-4使用SVG格式画图,与论文中的TikZ格式不一样也有影响。并且4月画的与现在画的似乎只是一样差,也没看出来明显退步。最后来问问大家,你是GPT-4用户么?最近几周有感到GPT-4能力下降么?欢迎在评论区聊聊。Bubeck演讲:https://www...

    智能设备 2023-06-03 10:09:46
  • 谷歌开源RustCrate审查结果:便于Rust开发者验证源码安全

    谷歌开源RustCrate审查结果:便于Rust开发者验证源码安全

    IT之家 5 月 25 日消息,谷歌的许多开源项目都使用 Rust,这是一种现代系统语言,旨在构建可靠高效的软件。日前谷歌在 GitHub 上开源了对 Rust Crate 的审查结果,开发者可在自己的项目中导入这些审核结果,以证明所使用的 Rust Crate 的属性。▲图源 谷歌开源博客Rust 社区中存在可用于供开发者发布自己所开发的 Crate 的名为 Crates.io 的服务,开发者利用 Crates...

    智能设备 2023-05-25 11:03:30
  • 苹果也出手了!以数据安全为由限制员工使用ChatGPT等AI工具

    苹果也出手了!以数据安全为由限制员工使用ChatGPT等AI工具

    ①有消息称,苹果公司已经限制员工使用ChatGPT和其他外部的AI工具; ②苹果担心此类工具会泄露公司机密数据; ③知情人士透露,苹果正在开发自己的大型语言模型。 财联社5月19日讯(编辑 周子意)据媒体周四(5月18日)援引一份文件内容称,苹果公司已经限制员工使用ChatGPT和其他外部的人工智能(AI)工具...

    智能设备 2023-05-19 11:51:52
  • 深信服对外披露自研安全GPT技术应用

    深信服对外披露自研安全GPT技术应用

    深信服科技董事长 何朝曦5月18日消息,深信服科技今日正式对外披露安全大模型技术应用。深信服安全大模型(安全GPT)为深信服自主研发,由“大模型算法+威胁情报+安全知识”训练而成,将大幅提升对流量和日志的威胁检测效果,并通过自然语言交互,可以自动分析用户安全现状、调查研判安全事件,并生成处置建议,进而提升安全运营效率,助力企业的数字化更简单、更安全...

    业界动态 2023-05-18 16:26:47
  • 马斯克称特斯拉有世界上最安全的车,受伤比例最低的工厂

    马斯克称特斯拉有世界上最安全的车,受伤比例最低的工厂

    5月17日消息,北京5月17日凌晨4点,特斯拉2023年股东大会在美国得州超级工厂如期举行。会上,特斯拉CEO埃隆·马斯克(Elon Musk)强调了特斯拉车辆及工厂的安全性,并表示Model Y无疑将成为今年全球最畅销的车型,“我们对此非常有信心”...

    业界动态 2023-05-17 09:44:05
  • 辰创科技:民航安全国产化替代是大势所趋

    辰创科技:民航安全国产化替代是大势所趋

    5月16日消息,在第三届民航技术装备及服务展上,辰创科技展示了其自主研制的立体安防系统,包括对跑道异物进行高精度实时检测的“鹰眼”机场跑道FOD探测系统、对鸟类无人机等净空入侵目标进行监测的“天盾”立体防御系统,以及对受控区域人员、车辆的非法入侵或聚集行为进行探测的电扫周界安防雷达系统三个子系统产品,这三个子系统既可以联合部署,也能够独立运行。据辰创科技介绍,“鹰眼”机场跑道FOD智能检测系统,实现了对国际领先的边灯式FOD检测雷达技术的国产化替代。该系统采用机械扫描、高距离分辨率和高方位分辨率的毫米波FMCW(线性调频连续波)雷达体制,极大减少扫描间隔,实现全天候、全天时无盲点监测。同时克服FOD静态且低RCS(雷达散射截面积),回波功率低,容易淹没在路灯、杂草、天线等强地杂波中,难以在频率维进行区分的难点,发挥高分辨率的毫米波雷达频带宽、波长短、波束窄、体积小分辨力强和穿透性强等特点,敏锐提取FOD回波特性,通过分析定位后将FOD坐标传给控制中心。据悉,在探测精度上,“鹰眼”机场跑道FOD智能探测系统发现异物最小尺寸为0.5cm×0...

    业界动态 2023-05-16 11:13:27
  • 小米安全中心更新停止支持产品列表,包含RedmiK30

    小米安全中心更新停止支持产品列表,包含RedmiK30

    IT之家 5 月 14 日消息,小米为旗下智能手机提供持续的安全性更新,覆盖小米、Redmi 和 POCO 品牌的手机。小米提供的安全性更新包括最新的安全补丁、安全问题修复和其他安全性改进,通常情况下会为所有手机产品提供至少 2 年的安全性更新,且定期发布和更新终止支持产品列表...

    手机互联 2023-05-14 10:23:17
  • SQL Server的行级安全性详解

    SQL Server的行级安全性详解

    目录一、前言二、描述三、权限四、安全说明:侧信道攻击五、跨功能兼容性六、示例一、前言行级别安全性使您能够使用组成员身份或执行上下文来控制对数据库表中行的访问。行级别安全性 (RLS) 简化了应用程序中的安全性设计和编码。RLS 可帮助您对数据行访问实施限制。例如,您可以确保工作人员仅访问与其部门相关的数据行。另一个示例是将客户的数据访问限制为仅与其公司相关的数据。访问限制逻辑位于数据库层中,而不是远离另一个应用程序层中的数据。每次尝试从任何层访问数据时,数据库系统都会应用访问限制。这通过减少安全系统的表面积,使您的安全系统更加可靠和强大。通过使用创建安全策略 Transact-SQL 语句和作为内联表值函数创建的谓词实现 RLS。行级别安全性首次引入 SQL Server 2016 (13.x)。二、描述RLS 支持两种类型的安全谓词。筛选器谓词以静默方式筛选可用于读取操作(选择、更新和删除)的行。阻止谓词显式阻止违反谓词的写入操作(插入后、更新后、更新之前、删除之前)。对表中行级数据的访问受定义为内联表值函数的安全谓词的限制。然后,安全策略调用和强制执行该函数。对于筛选器谓词,应用程序不知道从结果集中筛选的行。如果筛选了所有行,则将返回空集。对于块谓词,任何违反谓词的操作都将失败并显示错误。从基表中读取数据时应用筛选器谓词。它们影响所有获取操作:选择、删除和更新。用户无法选择或删除已筛选的行。用户无法更新筛选的行。但是,可以更新行,以便以后对其进行筛选。块谓词会影响所有写入操作。“插入后”和“更新后”谓词可以防止用户将行更新为违反谓词的值。BEFORE UPDATE 谓词可以阻止用户更新当前违反谓词的行。在删除之前 谓词可以阻止删除操作。筛选器和阻止谓词以及安全策略都具有以下行为:可以定义一个谓词函数,该函数与另一个表联接和/或调用函数。如果使用 (默认值) 创建安全策略,则可以从查询访问联接或函数,并按预期工作,而无需任何其他权限检查。如果使用 创建安全策略,则用户将需要对这些附加表和函数的 SELECT 权限才能查询目标表。如果谓词函数调用 CLR 标量值函数,则还需要 EXECUTE 权限。可以针对已定义但已禁用安全谓词的表发出查询。筛选或阻止的任何行不受影响。如果 dbo 用户、db_owner角色的成员或表所有者查询已定义并启用了安全策略的表,则会按照安全策略的定义过滤或阻止行。尝试更改由架构绑定安全策略绑定的表的架构将导致错误。但是,可以更改谓词未引用的列。尝试在已为指定操作定义谓词的表上添加谓词会导致错误。无论是否启用谓词,都会发生这种情况。尝试修改函数(用作架构绑定安全策略中的表的谓词)将导致错误。定义多个包含非重叠谓词的活动安全策略会成功。筛选器谓词具有以下行为:定义用于筛选表中行的安全策略。应用程序不知道针对 SELECT、UPDATE 和 DELETE 操作筛选的任何行。包括筛选掉所有行的情况。应用程序可以插入行,即使它们将在任何其他操作期间被筛选。块谓词具有以下行为:UPDATE 的块谓词被拆分为 BEFORE 和 AFTER 的单独操作。例如,不能阻止用户将行更新为具有高于当前值的值。如果需要这种逻辑,则必须将触发器与 DELETE 和 INSERT 中间表一起使用,以同时引用旧值和新值。如果谓词函数使用的列未更改,优化程序将不会检查 AFTER UPDATE 块谓词。尚未对批量 API 进行任何更改,包括批量插入。这意味着块谓词 AFTER INSERT 将应用于批量插入操作,就像它们将常规插入操作一样。三、权限创建、更改或删除安全策略需要“更改任何安全策略”权限。创建或删除安全策略需要对架构具有 ALTER 权限。此外,添加的每个谓词都需要以下权限:对用作谓词的函数的 SELECT 和 REFERENCE 权限。对绑定到策略的目标表的 REFERENCES 权限。对用作参数的目标表中的每一列的 REFERENCES 权限。安全策略适用于所有用户,包括数据库中的 dbo 用户。Dbo 用户可以更改或删除安全策略,但可以审核他们对安全策略的更改。如果高特权用户(如 sysadmin 或 db_owner)需要查看所有行以排除故障或验证数据,则必须编写安全策略以允许这样做。如果使用 创建安全策略,则要查询目标表,用户必须对谓词函数以及谓词函数中使用的任何其他表、视图或函数具有 SELECT 或 EXECUTE 权限。如果使用 (默认值) 创建安全策略,则当用户查询目标表时会绕过这些权限检查。四、安全说明:侧信道攻击(1)恶意安全策略管理器。请务必注意,恶意安全策略管理器具有在敏感列上创建安全策略的足够权限,并有权创建或更改内联表值函数,但可以与对表具有选择权限的其他用户串通,通过恶意创建旨在使用侧通道攻击推断数据的内联表值函数来执行数据泄露。此类攻击需要串通(或授予恶意用户的过多权限),并且可能需要多次迭代修改策略(需要删除谓词的权限以破坏架构绑定)、修改内联表值函数以及在目标表上重复运行 select 语句。我们建议您根据需要限制权限,并监视任何可疑活动。应监视活动,例如不断更改的策略和与行级别安全性相关的内联表值函数。(2)精心设计的查询。通过使用利用错误的精心设计的查询,可能会导致信息泄露。五、跨功能兼容性通常,行级别安全性将跨功能按预期工作。但是,也有一些例外。本节记录了将行级别安全性与 SQL Server 的某些其他功能结合使用的几个注意事项和注意事项。DBCC SHOW_STATISTICS报告未过滤数据的统计信息,并可能泄露受安全策略保护的信息。因此,对查看具有行级别安全策略的表的统计信息对象的访问受到限制。用户必须拥有该表,或者用户必须是 sysadmin 固定服务器角色、db_owner固定数据库角色或db_ddladmin固定数据库角色的成员。文件流:RLS 与文件流不兼容。内存优化表:必须使用该选项定义用作内存优化表的安全谓词的内联表值函数。使用此选项,将禁止内存优化表不支持的语言功能,并在创建时发出相应的错误。索引视图:通常,可以在视图之上创建安全策略,也可以在受安全策略约束的表之上创建视图。但是,不能在具有安全策略的表之上创建索引视图,因为通过索引查找行将绕过该策略。变更数据捕获:变更数据捕获可能会泄漏应筛选为db_owner成员或为表启用 CDC 时指定的“控制”角色成员的用户(注意:您可以将此函数显式设置为 NULL,以使所有用户都能访问变更数据)。实际上,db_owner和此控制角色的成员可以查看表上的所有数据更改,即使表上有安全策略也是如此。更改跟踪:更改跟踪可能会将应筛选的行的主键泄露给同时具有“选择”和“查看更改跟踪”权限的用户。实际数据值不会泄露;只有 A 列被更新/插入/删除了带有 B 主键的行的事实。如果主密钥包含机密元素(如社会保险号),则会出现问题。然而,在实践中,这个CHANGETABLE几乎总是与原始表连接,以获得最新的数据。全文搜索:使用以下全文搜索和语义搜索函数的查询预计会降低性能,因为引入了额外的联接来应用行级安全性并避免泄漏应过滤的行的主键:CONTAINSTABLE、FREETEXTTABLE、semantickeyphrasetable、semanticsimilaritydetailstable、semanticsimilaritytable、semanticsimilaritytable。列存储索引:RLS 与聚集列存储索引和非聚集列存储索引兼容。但是,由于行级别安全性应用函数,因此优化程序可能会修改查询计划,使其不使用批处理模式。分区视图:不能在分区视图上定义块谓词,也不能在使用块谓词的表上创建分区视图。筛选器谓词与分区视图兼容。时态表:时态表与 RLS 兼容。但是,当前表上的安全谓词不会自动复制到历史记录表中。要将安全策略应用于当前表和历史记录表,必须在每个表上单独添加安全谓词。六、示例向数据库进行身份验证的用户的方案。创建三个用户,并创建并填充一个包含六行的表。然后,它为表创建一个内联表值函数和安全策略。然后,该示例演示如何为各种用户筛选 select 语句。(1)创建三个将演示不同访问功能的用户帐户。CREATE USER Manager WITHOUT LOGIN;CREATE USER SalesRep1 WITHOUT LOGIN;CREATE USER SalesRep2 WITHOUT LOGIN;GO(2)创建一个表来保存数据。CREATE SCHEMA SalesGOCREATE TABLE Sales...

    数据库操作教程 2023-05-12 12:11:21
  • 专访图灵人工智能研究院CEO李强:未来合规与数据安全将是国产AI大模型行业应用核心竞争力

    专访图灵人工智能研究院CEO李强:未来合规与数据安全将是国产AI大模型行业应用核心竞争力

    出品|网易科技作者|赵芙瑶编辑|丁广胜当我们在谈论ChatGPT时,我们在谈论什么?时间进入到2023年5月,ChatGPT所引起的风暴还在持续发酵。从其令人震惊的多模态能力、到国产大模型开启“百模大战”、类ChatGPT产品如雨后春笋般涌现,ChatGPT的上下游产业以难以想象的速度进化着...

    智能设备 2023-05-10 11:29:42
  • OpenAI推出Shap・E:基于文本数秒内生成高质量3D模型

    OpenAI推出Shap・E:基于文本数秒内生成高质量3D模型

    IT之家5月9日消息,继文本生成图片模型DALL・E之后,OpenAI近日再次发布了Shap・E模型。用户可以输入文本,用于创建逼真且多样化的3D模型...

    智能设备 2023-05-09 12:36:14

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持