首页 > 资讯列表 >  本页面生成安全问题专题报道,安全问题滚动新闻,安全问题业界评论等相关报道!
  • 维基百科:ChatGPTorNot?这是一个问题

    维基百科:ChatGPTorNot?这是一个问题

    维基百科胜在知识结构清晰,ChatGPT 长于具体问题,双方未必不可调和。作者 | Moonshot编辑| 靖宇22年前,2001年初,维基百科 Wikipedia 横空出世,在其后的互联网时代,成为人们获取知识的重要平台。但在刚开始,人们对维基「人人可编辑」的组织形式产生过质疑。甚至有电视主持人讽刺其为「wikiality」,即如果在维基百科上编造条目,只要有足够多的人同意,它就会成为现实。后来,随着《自然》(Nature)杂志的调查研究,发现维基百科准确度接近大英百科全书,Google 开始把维基百科放到搜索结果的首项,维基社区和内容贡献者也持续壮大,维基百科用了很多年时间终于取得了公众的信任。诞生之初遭到质疑,越来越多人参与去完善,而后平反收到大众认可,继而成为日常的工具,这一过程,仅诞生半年的 ChatGPT 正在经历,不仅于此,它还成为了维基百科的挑战者。不久前,维基媒体基金会召开2023-2024年度计划的电话会议,会议中提及了35次 AI,讨论的主题也是围绕 ChatGPT 带来的挑战。但维基百科所担心的挑战,并不是被 ChatGPT 取代。而是更深刻地考验:未来的维基百科,会由 ChatGPT 来撰写吗?01维基百科的内容哪里来的?要想知道 ChatGPT 能否撰写维基百科,得先知道维基百科目前内容来源于哪里。维基百科主要是由来自互联网上的志愿者共同合作编写而成,任何使用网络进入维基百科的用户都可以编写和修改里面的文章。它是互联网上一个极大的自由内容、公开编辑、多语言的网络百科全书协作计划。截至2021年初,所有语种的维基百科条目数量达5500万条,如何确保内容上的准确,全靠维基社群志愿者们的筛查。在 ChatGPT 出现前,维基百科已经长期在用 AI 去减少一些人力成本。应用最多的就是把现有条目直接机器翻译,再由人工编辑校对。2016年时,资深科学家 Aaron Halfaker 开发了一套开源机器学习算法,可以自动识别维基百科里那些恶意破坏条目和编辑假消息的行为;2020年,MIT 的研究人员也为维基百科推出过基于 AI 的修改功能,可以精确定位维基百科句子中的特定信息,并自动替换为类似于人类编辑的语言。Wikipedia 关于 ChatGPT 的页面|Wikipedia以及如维基社群所述,人工智能非常擅长总结把一篇很长的技术类条目,总结成儿童都能理解的版本,让 AI 去生成儿童版的维基百科效果很好。翻译、检查、概括简化已有内容,维基百科一直以来对 AI 的应用仅限于此,直到大型语言模型 ChatGPT 的出现。目前仍以文字方式交互为主的 ChatGPT,除了回答用户直接的提问以外,还可以用于甚为复杂的语言工作,包括自动生成文本、自动问答、自动摘要等等。ChatGPT 可以写出相似真人的文章,并在许多知识领域给出详细和清晰的回答。哪怕 ChatGPT 生成内容的事实准确度还需要人工去二次查阅,但这时维基百科面临的问题已经很明显了:志愿者能否用 ChatGPT 来撰写维基百科条目?02能不能和想不想纽约市维基媒体分会的老维基人 Richard Knipel 就用 ChatGPT 在维基百科上起草了一个名为「艺术作品标题」的新条目,Knipel 表示,ChatGPT 给出的版本一般但语法正确,定义了艺术作品标题的概念,给出了从古至今的例子。他在草稿基础上只做了轻微修改。但另一位编辑在条目上标注,将会进行大量修改并完善。如今,我们再点进这一条目,会发现它增加了大量内容和理论索引,还梳理出了目录,给出了图片案例。像 Knipel 这样的维基人认为,ChatGPT 可以作为生成维基百科条目草稿、骨架的工具,在此基础上,人工再验证内容,编辑和充实条目。但另一派维基人则认为,在维基百科条目的创作里 ChatGPT 应该完全被禁用。一位维基百科编辑就表示「我们应该强烈呼吁不使用 AI 工具来生成条目草稿,即使这些条目随后会被人工审阅。ChatGPT 太擅长引入那些看起来很有道理的谎言。」ChatGPT 起草,人工简单编辑的版本|Wikipedia人工大量干预后产生的版本|Wikipedia但另一派也反驳这种说法,就像 Knipel 认为,修改并丰富不完善的信息,这就是维基百科在实践中一直运作的方式。ChatGPT 将继续存在并飞速发展,利用它同时强调人工干预的必要性怎么就不行呢?把 ChatGPT 上来就视作洪水猛兽实在有些偏颇。但在想不想之前,我们先看看能不能。ChatGPT 还够不够格直接编写维基百科呢?3月30日时,维基百科创始人 Jimmy Wales 在接受 Evening Standard 采访时讨论了这个议题。Wales 认为,让 ChatGPT 能独立写一个完整的维基条目,目前还有一段距离,但距离多远就难说了。「业内把这种情况称为 hallucinating(幻觉)——我称之为编瞎话。」(One of the issues with the existing ChatGPT is what they call in the field 『hallucinating』—I call it lying.)「ChatGPT 有一种凭空捏造的倾向,这对维基百科来说真的不太行。」Wales 在采访里说道。实践中也是如此,你在维基百科上搜一个词,维基百科可能会反馈「该条目不存在」,但你问 ChatGPT,它可能会给你生成一段没由头的假消息。ChatGPT 会「说瞎话」,这种事已经不新鲜了。但 ChatGPT 诞生仅半年,它的自我迭代能力已经令人咋舌,让 ChatGPT「句句吐真言」,似乎只是时间问题,那维基百科现在担忧的是什么呢?03人力有限,算力「无限」维基百科团队并没有那么担心内容到底来源于人类还是 AI,它担心的是内容质量是否过关。在维基媒体基金会在电话会议总结报告里,「挑战」被放到了开篇,其中最大比重的部分,也是维基百科团队最大的担忧在于:维基百科涌入大量 AI 生成的内容,把真正高质量的、正确的信息给淹没了。「Wiki 项目有大量高质量的、可靠的,结构化的、分类好的内容。这就是我们带给世界的价值。最让我害怕的不是人们使用 GPT 之类的大语言模型来获取知识,而是需要巡查的 AI 生成的内容会爆炸式增长。」对高质量内容来说,创作比消费的时间成本高很多,就像一篇较为完整的维基条目,需要许多人参与撰写,花许多时间,走过很多流程后完成,对读者来说几分钟就阅读完了。像维基百科这种平台,为了保证内容质量,还需要专业人士核查一条条目中每个信息、数据、引用是否来源准确,筛查和编辑的成本同样很高。因此 AI 生成内容越多,人工核查的时间也更长。而且哪怕 ChatGPT 给出了正确的结论,但它并不会直接给出结论的论据来源何处,人工还需要再找到论据。到最后,修正可能比撰写耗时更长。Wikipedia 的条目下会有很多延展阅读链接|Wikipedia目前维基百科志愿者们已经发现了许多 ChatGPT 自动生成内容上的问题。比如 ChatGPT 很容易太笼统地概括定义,导致表意不明。还有 ChatGPT 遣词造句过于肯定,不够匹配维基百科想呈现的客观中性的文字风格。最重要的是信源难以查询,维基百科的可信度和扩展阅读性,很大程度上是基于条目底下丰富的信息参考来源,但 ChatGPT 不会主动提供参考,甚至会凭空捏造。担任了20年维基百科志愿编辑的 Andrew Lih 在用 ChatGPT 起草新条目时就发现,ChatGPT 概述定义做得很不错,但它所提供的消息来源于《福布斯》、《卫报》、《今日心理学》,但 Lih 仔细查阅后发现,这些信源文章并不存在,甚至 ChatGPT 给出的 URL 都是自动生成找不到页面的假链接。综上,维基百科团队直接表示,AI 生成内容的速度和效率,可能会超出项目的运行能力。除此之外,还有许多维基百科团队会担心的点,比如如今的维基百科贡献者里,使用英语的白人男性依旧是主体,维基内容已带有语言和内容偏见,ChatGPT 靠吸纳互联网信息为养料的 AI 机器,生成出的内容会进一步放大偏见。Wikipedia 联合创始人 Jimmy Wales 在接受 Standard 采访时谈及 AI 参与撰写维基的问题|Standard...

    智能设备 2023-05-14 11:22:09
  • 小米安全中心更新停止支持产品列表,包含RedmiK30

    小米安全中心更新停止支持产品列表,包含RedmiK30

    IT之家 5 月 14 日消息,小米为旗下智能手机提供持续的安全性更新,覆盖小米、Redmi 和 POCO 品牌的手机。小米提供的安全性更新包括最新的安全补丁、安全问题修复和其他安全性改进,通常情况下会为所有手机产品提供至少 2 年的安全性更新,且定期发布和更新终止支持产品列表...

    手机互联 2023-05-14 10:23:17
  • sql server 2016不能全部用到CPU的逻辑核心数的问题

    sql server 2016不能全部用到CPU的逻辑核心数的问题

    最近在工作中遇到了,sql server 2016 不能把CPU 的核心全部用到的问题.通过分析工具看到 总共CPU核心有72核,但sql 只能用到40核心,想信也有很多人遇到这问题,那么今天这节就先说说这问题是怎么出现的。首先  介绍下服务器的环境 Windows 2008 R2 Enterprise Edition(X64) + Microsoft SQL Server 2012 (SP1)Enterprise Edition (64-bit) CPU 2路 18核 开启超线程后是72核心  如图:再看sql实例的属性  如图:sql server 其实已经认出了总的核心数  72  那么sql server 是不是代表就能全部使用上呢,通过系统视图可以看到  select  * from sys...

    数据库操作教程 2023-05-12 12:12:37
  • SQLserver2019 Express安装及其一些问题解决

    SQLserver2019 Express安装及其一些问题解决

    首先,我是一名技术小白,有些问题的理论不是理解得很透彻,如果大家有什么问题,我们一起讨论,增长彼此,这样才是最好的,扫弊自珍,是最大的愚蠢。我如果感兴趣,也会回复各位,帮助大家寻找解决方法,我就是免费的劳动力/ww~~~现在进入正题:1.安装步骤我是遇到问题后,从B站上面查找的参考资料,因为不知道是否涉及版权问题,所以大家自己搜索一下1...

    数据库操作教程 2023-05-12 12:11:46
  • SQL Server的行级安全性详解

    SQL Server的行级安全性详解

    目录一、前言二、描述三、权限四、安全说明:侧信道攻击五、跨功能兼容性六、示例一、前言行级别安全性使您能够使用组成员身份或执行上下文来控制对数据库表中行的访问。行级别安全性 (RLS) 简化了应用程序中的安全性设计和编码。RLS 可帮助您对数据行访问实施限制。例如,您可以确保工作人员仅访问与其部门相关的数据行。另一个示例是将客户的数据访问限制为仅与其公司相关的数据。访问限制逻辑位于数据库层中,而不是远离另一个应用程序层中的数据。每次尝试从任何层访问数据时,数据库系统都会应用访问限制。这通过减少安全系统的表面积,使您的安全系统更加可靠和强大。通过使用创建安全策略 Transact-SQL 语句和作为内联表值函数创建的谓词实现 RLS。行级别安全性首次引入 SQL Server 2016 (13.x)。二、描述RLS 支持两种类型的安全谓词。筛选器谓词以静默方式筛选可用于读取操作(选择、更新和删除)的行。阻止谓词显式阻止违反谓词的写入操作(插入后、更新后、更新之前、删除之前)。对表中行级数据的访问受定义为内联表值函数的安全谓词的限制。然后,安全策略调用和强制执行该函数。对于筛选器谓词,应用程序不知道从结果集中筛选的行。如果筛选了所有行,则将返回空集。对于块谓词,任何违反谓词的操作都将失败并显示错误。从基表中读取数据时应用筛选器谓词。它们影响所有获取操作:选择、删除和更新。用户无法选择或删除已筛选的行。用户无法更新筛选的行。但是,可以更新行,以便以后对其进行筛选。块谓词会影响所有写入操作。“插入后”和“更新后”谓词可以防止用户将行更新为违反谓词的值。BEFORE UPDATE 谓词可以阻止用户更新当前违反谓词的行。在删除之前 谓词可以阻止删除操作。筛选器和阻止谓词以及安全策略都具有以下行为:可以定义一个谓词函数,该函数与另一个表联接和/或调用函数。如果使用 (默认值) 创建安全策略,则可以从查询访问联接或函数,并按预期工作,而无需任何其他权限检查。如果使用 创建安全策略,则用户将需要对这些附加表和函数的 SELECT 权限才能查询目标表。如果谓词函数调用 CLR 标量值函数,则还需要 EXECUTE 权限。可以针对已定义但已禁用安全谓词的表发出查询。筛选或阻止的任何行不受影响。如果 dbo 用户、db_owner角色的成员或表所有者查询已定义并启用了安全策略的表,则会按照安全策略的定义过滤或阻止行。尝试更改由架构绑定安全策略绑定的表的架构将导致错误。但是,可以更改谓词未引用的列。尝试在已为指定操作定义谓词的表上添加谓词会导致错误。无论是否启用谓词,都会发生这种情况。尝试修改函数(用作架构绑定安全策略中的表的谓词)将导致错误。定义多个包含非重叠谓词的活动安全策略会成功。筛选器谓词具有以下行为:定义用于筛选表中行的安全策略。应用程序不知道针对 SELECT、UPDATE 和 DELETE 操作筛选的任何行。包括筛选掉所有行的情况。应用程序可以插入行,即使它们将在任何其他操作期间被筛选。块谓词具有以下行为:UPDATE 的块谓词被拆分为 BEFORE 和 AFTER 的单独操作。例如,不能阻止用户将行更新为具有高于当前值的值。如果需要这种逻辑,则必须将触发器与 DELETE 和 INSERT 中间表一起使用,以同时引用旧值和新值。如果谓词函数使用的列未更改,优化程序将不会检查 AFTER UPDATE 块谓词。尚未对批量 API 进行任何更改,包括批量插入。这意味着块谓词 AFTER INSERT 将应用于批量插入操作,就像它们将常规插入操作一样。三、权限创建、更改或删除安全策略需要“更改任何安全策略”权限。创建或删除安全策略需要对架构具有 ALTER 权限。此外,添加的每个谓词都需要以下权限:对用作谓词的函数的 SELECT 和 REFERENCE 权限。对绑定到策略的目标表的 REFERENCES 权限。对用作参数的目标表中的每一列的 REFERENCES 权限。安全策略适用于所有用户,包括数据库中的 dbo 用户。Dbo 用户可以更改或删除安全策略,但可以审核他们对安全策略的更改。如果高特权用户(如 sysadmin 或 db_owner)需要查看所有行以排除故障或验证数据,则必须编写安全策略以允许这样做。如果使用 创建安全策略,则要查询目标表,用户必须对谓词函数以及谓词函数中使用的任何其他表、视图或函数具有 SELECT 或 EXECUTE 权限。如果使用 (默认值) 创建安全策略,则当用户查询目标表时会绕过这些权限检查。四、安全说明:侧信道攻击(1)恶意安全策略管理器。请务必注意,恶意安全策略管理器具有在敏感列上创建安全策略的足够权限,并有权创建或更改内联表值函数,但可以与对表具有选择权限的其他用户串通,通过恶意创建旨在使用侧通道攻击推断数据的内联表值函数来执行数据泄露。此类攻击需要串通(或授予恶意用户的过多权限),并且可能需要多次迭代修改策略(需要删除谓词的权限以破坏架构绑定)、修改内联表值函数以及在目标表上重复运行 select 语句。我们建议您根据需要限制权限,并监视任何可疑活动。应监视活动,例如不断更改的策略和与行级别安全性相关的内联表值函数。(2)精心设计的查询。通过使用利用错误的精心设计的查询,可能会导致信息泄露。五、跨功能兼容性通常,行级别安全性将跨功能按预期工作。但是,也有一些例外。本节记录了将行级别安全性与 SQL Server 的某些其他功能结合使用的几个注意事项和注意事项。DBCC SHOW_STATISTICS报告未过滤数据的统计信息,并可能泄露受安全策略保护的信息。因此,对查看具有行级别安全策略的表的统计信息对象的访问受到限制。用户必须拥有该表,或者用户必须是 sysadmin 固定服务器角色、db_owner固定数据库角色或db_ddladmin固定数据库角色的成员。文件流:RLS 与文件流不兼容。内存优化表:必须使用该选项定义用作内存优化表的安全谓词的内联表值函数。使用此选项,将禁止内存优化表不支持的语言功能,并在创建时发出相应的错误。索引视图:通常,可以在视图之上创建安全策略,也可以在受安全策略约束的表之上创建视图。但是,不能在具有安全策略的表之上创建索引视图,因为通过索引查找行将绕过该策略。变更数据捕获:变更数据捕获可能会泄漏应筛选为db_owner成员或为表启用 CDC 时指定的“控制”角色成员的用户(注意:您可以将此函数显式设置为 NULL,以使所有用户都能访问变更数据)。实际上,db_owner和此控制角色的成员可以查看表上的所有数据更改,即使表上有安全策略也是如此。更改跟踪:更改跟踪可能会将应筛选的行的主键泄露给同时具有“选择”和“查看更改跟踪”权限的用户。实际数据值不会泄露;只有 A 列被更新/插入/删除了带有 B 主键的行的事实。如果主密钥包含机密元素(如社会保险号),则会出现问题。然而,在实践中,这个CHANGETABLE几乎总是与原始表连接,以获得最新的数据。全文搜索:使用以下全文搜索和语义搜索函数的查询预计会降低性能,因为引入了额外的联接来应用行级安全性并避免泄漏应过滤的行的主键:CONTAINSTABLE、FREETEXTTABLE、semantickeyphrasetable、semanticsimilaritydetailstable、semanticsimilaritytable、semanticsimilaritytable。列存储索引:RLS 与聚集列存储索引和非聚集列存储索引兼容。但是,由于行级别安全性应用函数,因此优化程序可能会修改查询计划,使其不使用批处理模式。分区视图:不能在分区视图上定义块谓词,也不能在使用块谓词的表上创建分区视图。筛选器谓词与分区视图兼容。时态表:时态表与 RLS 兼容。但是,当前表上的安全谓词不会自动复制到历史记录表中。要将安全策略应用于当前表和历史记录表,必须在每个表上单独添加安全谓词。六、示例向数据库进行身份验证的用户的方案。创建三个用户,并创建并填充一个包含六行的表。然后,它为表创建一个内联表值函数和安全策略。然后,该示例演示如何为各种用户筛选 select 语句。(1)创建三个将演示不同访问功能的用户帐户。CREATE USER Manager WITHOUT LOGIN;CREATE USER SalesRep1 WITHOUT LOGIN;CREATE USER SalesRep2 WITHOUT LOGIN;GO(2)创建一个表来保存数据。CREATE SCHEMA SalesGOCREATE TABLE Sales...

    数据库操作教程 2023-05-12 12:11:21
  • SQL数据库连接超时时间已到的问题

    SQL数据库连接超时时间已到的问题

    目录SQL数据库连接超时时间已到问题解决方法数据库访问超时时间配置总结1.背景2...

    数据库操作教程 2023-05-12 12:10:55
  • 欧盟仍在调查ApplePay反垄断问题,研究用二维码/蓝牙替代NFC

    欧盟仍在调查ApplePay反垄断问题,研究用二维码/蓝牙替代NFC

    IT之家5月11日消息,根据彭博社报道,欧盟反垄断调查机构正加大对苹果ApplePay的调查力度,已派出多名调查人员,向欧洲零售商征求有关移动支付平台使用情况和可用性的更多信息。欧盟在一年前公开发表初步调查观点:苹果通过iPhone上的NFC芯片,限制移动支付平台,滥用其市场支配地位...

    手机互联 2023-05-11 10:12:19
  • 专访图灵人工智能研究院CEO李强:未来合规与数据安全将是国产AI大模型行业应用核心竞争力

    专访图灵人工智能研究院CEO李强:未来合规与数据安全将是国产AI大模型行业应用核心竞争力

    出品|网易科技作者|赵芙瑶编辑|丁广胜当我们在谈论ChatGPT时,我们在谈论什么?时间进入到2023年5月,ChatGPT所引起的风暴还在持续发酵。从其令人震惊的多模态能力、到国产大模型开启“百模大战”、类ChatGPT产品如雨后春笋般涌现,ChatGPT的上下游产业以难以想象的速度进化着...

    智能设备 2023-05-10 11:29:42
  • 促进Web3合规,「中科链源」提供区块链安全解决方案|Tech100

    促进Web3合规,「中科链源」提供区块链安全解决方案|Tech100

    在参与者日益增多的前提下,Web3的基础设施(如链本身、智能合约等)和应用(钱包、NFT等)却持续被质疑安全性有待加强。有统计显示,2022年,全球Web3的六大主要赛道中,公链、跨链桥、交易所、钱包、DeFi、NFT均发生多起安全事件...

    区块链 2023-05-09 10:57:19
  • 安恒信息范渊:AI+安全这条路是可以走通的

    安恒信息范渊:AI+安全这条路是可以走通的

    “AI+安全,这个大幕才刚刚拉开,未来还有更大的可能性。”安恒信息董事长范渊在2023西湖论剑·数字安全大会上如是说...

    互联网 2023-05-09 10:53:26
  • 邬贺铨院士:应主动迎接IPv6主导的互联网时代护航数据安全流动

    邬贺铨院士:应主动迎接IPv6主导的互联网时代护航数据安全流动

    5月8日消息,中国工程院院士邬贺铨在在2023西湖论剑·数字安全大会(原西湖论剑·网络安全大会)上提出,随着数据上升为重要的生产要素,跨境数据流动的安全管理面临巨大挑战,应该主动迎接IPv6主导的互联网时代,通过IPv6提升数据安全能力,支撑跨境数据流动的有效管理,护航数据安全流动。中国发展研究基金会副理事长、国务院发展研究中心原副主任刘世表示:随着实体经济发展重心转向数字化实体经济,需要正确认识和发挥资本作为生产要素的积极作用,促进数字平台创新发展,把握好数字经济发展和安全关系,坚持“用”字当头,平衡和处理好数据产权保护、安全与利用的关系...

    业界动态 2023-05-08 09:40:03
  • 用API接入更安全,OpenAI称不会用付费客户数据训练AI

    用API接入更安全,OpenAI称不会用付费客户数据训练AI

    5月6日消息,OpenAI首席执行官萨姆·奥尔特曼(SamAltman)周五表示,他们“已经有一段时间”没有使用付费客户的数据来训练其GPT等人工智能大语言模型。奥尔特曼表示,“客户明确表示不希望用他们的数据进行训练,因此我们已经改变了计划:我们不会这样做...

    智能设备 2023-05-07 12:42:55

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持