当地时间周三（1月10日），世界经济论坛（俗称达沃斯论坛）发布报告称，虚假和误导性信息在尖端人工智能（AI）的加持下，是全球经济面临的首要直接风险。
2024年世界经济论坛年会将于1月15-19日在瑞士达沃斯-克洛斯特斯举行。AI将成为本次达沃斯论坛年会的热门话题，预计OpenAI CEO萨姆·奥尔特曼、微软CEO萨蒂亚·纳德拉等科技公司高管以及Meta首席AI科学家杨立昆（Yann LeCun）等行业人士将出席会议。
在最新的《全球风险报告》中，达沃斯论坛将错误信息列为未来两年最严重的风险，强调了技术的飞速发展也在制造新的问题，或使现有问题变得更糟。
达信麦克伦南和苏黎世保险集团共同撰写了这份报告，该报告基于对近1500名专家、行业领袖和政策制定者的调查。
报告作者担心，像ChatGPT这类生成式AI的崛起意味着，制造可用于操作人群的复杂合成内容，将不再局限于那些拥有专业技能的人。
报告指出，随着美国、英国和印度等国迎来大选之际，AI驱动的错误信息和虚假信息正在成为一种风险。
达信风险管理主管Carolina Klint警告称，一些人可以利用AI进行深度造假，并真正影响到大型群体，推动错误信息的传播。
她表示，随着核实事实变得更加困难，社会可能会变得更加两极分化，虚假信息还可能被用来引发对民选政府合法性的质疑，这意味着民主进程可能会受到侵蚀。
Klint指出，AI兴起还带来了许多其他风险，它可以让“恶意行为者”更容易实施网络攻击，例如自动尝试网络钓鱼或创造高级恶意软件。
她说，在AI的加持下，“恶意行为者”甚至可以毒害从互联网抓取，用于训练其他AI系统的数据，这极其难以逆转，并可能进一步将偏见植入AI模型。
在AI驱动的虚假信息和错误信息之后，极端天气是达沃斯所列举的第二大短期风险。而从长远来看（定义为10年），极端天气则上升为第一大威胁。
还未登录
