人工智能不会取代总统,但可能主导我们的决策
科技行业称人类判断力仍至关重要,但却忽略了人工智能同样能够影响人类的判断力
本文由 AI 翻译,关键事实请以原文为准。
当有人在政治风波中为自己的立场辩护时说出“我问了 Gemini”,这番话有多大的说服力?如果你是韩国总统,答案显然是:不大。
韩国总统 Lee Jae-myung 在社交媒体平台 X 上发帖,随即引发轩然大波。他表示,为反驳批评人士的言论,他咨询了 Alphabet 旗下 Google 的人工智能工具。这些批评者认为,邀请两个调查机构的官员参加内阁会议可能会损害其独立性。
这场反弹揭示了人工智能热潮中一个近乎滑稽的阶段,其背后是同等程度的猜疑和炒作。
对于一个将人工智能视为未来增长引擎并寄予厚望的国家而言,其总统实际使用人工智能真的那么令人震惊吗?可以说,Lee 的行为正像一个典型的韩国人。
根据韩国工商会今年发布的一份报告,约有三分之二的大公司员工在工作中使用这项技术。
其他调查显示,这一数字甚至更高。
根据 Microsoft 的指数,韩国在过去一年的人工智能普及方面取得了最大进展。讽刺的是,一项涉及37个国家的皮尤调查发现,该国对人工智能抢走工作的焦虑症程度也属于全球最高之列。
早在上任前,Lee 就曾因表示自己在数据研究和分析方面更依赖 ChatGPT 而非助手,而登上新闻头条。(不过,作为一个经常咨询多种工具的人,这次为什么选择 Gemini,确实是个值得一问的问题。)
他的办公室表示,他只是用人工智能核实事实,并非向其请教如何治国。这或许是真的,但并未平息批评之声。
最具讽刺意味的是,批评者们现在也开始求助于 Gemini。在 Lee 发帖后不久,一些政界人士就用自己从 Gemini 获得的、似乎与总统所得不同的答复予以回击。
这是大型语言模型的一个众所周知的弱点。
虽然随着模型的改进,出现严重不准确回复(即“幻觉”)的概率已经下降,但研究表明,输出结果仍会因提示的措辞方式而产生巨大差异。
在请求聊天机器人调解政治争端之前,这一点值得牢记。
然而,在这场风波中,最响亮的一种攻击论调很简单,并得到了许多网络评论员和一名前改革党领袖的附和:如果总统要靠问 Gemini 来治国,那何不用人工智能直接取代他呢?
Lee 表示他只是在核查事实,并非将决策外包。但这一尖锐的批评正中要害。
在韩国社交媒体上泛滥的“Gemini 截图大战”看似荒谬,但也暴露了公众对于一场远超其监管法规的技术革命的信任是有限的。
当机器代为思考
在这片喧嚣之下,潜藏着一个更棘手的问题:我们愿意将领导者的多少判断力外包给机器?
科技行业常说,随着人工智能接管繁琐的工作,人类的判断力将变得更有价值。但我们可能没有意识到,决策过程本身也多么容易被机器塑造。
Anthropic 的一项新研究发现,即便是专家也可能受到人工智能的严重影响。在一项实验中,专业分析师在处理一项真实的统计任务时,有 86% 的时间会顺从人工智能代理在关键分析选择上随机设定的“倾向”。
当被要求解释自己的偏好时,77% 的分析师使用了人工智能代理的论点,有时甚至是逐字照搬,而只有 15% 的人承认受到了其影响。
该论文指出,这种情况比发现一个纯粹的事实错误(比如工具弄错数字)要困难得多。判断性决策通常没有唯一的正确答案,因此无论选择哪个方案,最终成果看起来都可能无懈可击。
Anthropic 的报告称:“事后询问专家也可能于事无补,因为他们或许并未察觉到人工智能代理的影响。”从白宫到企业董事会,我们应该像担心人工智能抢走我们的工作一样,担心它染指我们的决策权。
有几种方法可以加以应对。研究人员建议,可以设计代理程序来呈现相互竞争的选项,在提供建议前先征求用户的看法,并让 人工智能 的语气显得不那么肯定。
但这些都不是简单的解决办法,有些甚至可能与最初求助于人工智能的初衷背道而驰。
这家世界领先的人工智能实验室还有什么建议?机构“可能需要出于安全或韧性的原因,保护人类的技能和监督能力”。
说得轻巧。Anthropic 的观点是正确的,但当问题涉及到培养下一代时,情况就变得更加棘手。
如果在学习专业技能的过程中,更艰难的判断性决策更多地由机器代劳,那么人们可能永远也无法培养出我们指望人类所保有的那种洞察力。
随着人们对人工智能驱动的“去技能化”担忧日益加剧,我担心的与其说是专家会突然丧失能力,不如说是入门级员工将永远无法习得这些能力。
一些研究人员将这种将决策逐步移交给机器的过程称为“赋权剥夺”(disempowerment)。这是对人类自主能动性的一种缓慢而隐秘的侵蚀。
人工智能可以通过无数种方式让国家治理变得更有效率。用聊天机器人研究如何解释法律,和将整个行政权拱手相让,完全是两码事。
而且,事到如今,如果有在位者否认使用这些工具,我反而会更加怀疑。Lee 不是第一个公开谈论使用人工智能的世界领袖,也肯定不会是最后一个。
值得称道的是,他披露了自己的行为,这比许多其他人要坦诚。但在未来,如果用户自己都无法辨识机器在多大程度上影响了他们的判断,那么信息披露的作用也将是有限的。
最终,辅助与影响之间的界限正变得越来越难以区分。随着人工智能深入渗透到首尔以外的各国政府,这条界线或许在我们还未决定如何划定之前,就已经消失了。来源:彭博社
TRENDING NOW
Ex-Nvidia CEO Jensen Huang carried a secret for more than a year. It led to his downfall
South-east Asia has lost Nvidia’s best salesman
Demand, tech capabilities position Apac and AI as Skyscanner’s next growth frontiers: CEO Bryan Batista
Jensen Huang discusses comeback as Nvidia CEO with allies: report