人工智能可以被控制吗？维基百科的创始人吉米·威尔士 (Jimmy Wales) 表示，相信它可以实现类似于“神奇的思维”。
威尔士先生表示：“在许多情况下，政客及其助手对互联网如何运作以及可以实现什么目标了解甚少。”他花了很多时间向全球政客解释技术及其在言论自由中的作用。
“像联合国这样的机构监管人工智能的问题就像建议联合国监管 [图像编辑应用程序] Photoshop 一样。” 他的观点是他认为这是毫无意义的。
今年夏天，联合国秘书长安东尼奥·古特雷斯召开了有史以来第一次联合国安理会会议，专门讨论人工智能的潜在危险，因此，人工智能是否应该受到监管以及监管到何种程度的问题变得升温。
谈到从人工智能驱动的网络攻击、人工智能故障风险、人工智能如何传播错误信息，甚至人工智能与核武器之间的相互作用等各个方面，古特雷斯表示：“如果不采取行动应对这些风险，我们就会失职。”我们对当代和子孙后代的责任。”
此后，古特雷斯先生着手建立一个联合国小组，以调查可能需要哪些全球监管。该机构被称为人工智能高级咨询机构，将由“现任和前任政府专家，以及来自工业界、民间社会和学术界的专家”组成。
它将于今年年底前发布初步调查结果。与此同时，上周埃隆·马斯克和 Meta 的马克·扎克伯格等美国科技巨头在华盛顿与美国立法者举行了会谈，讨论人工智能和未来潜在的规则。
然而，一些人工智能业内人士对全球监管能否成功表示怀疑。Pierre Haren 就是其中之一，他已经研究人工智能45年了。
他曾在计算机巨头 IBM 工作过七年，领导团队为客户安装 Watson 超级计算机技术。Watson 于2010年首次亮相，可以回答用户的问题，是人工智能的先驱之一。
尽管 Haren 先生有这样的背景，但他表示，去年 ChatGPT 和其他所谓的“生成式人工智能”程序的出现和能力让他“大吃一惊”。
简而言之，生成式人工智能是能够快速创建新内容的人工智能，无论是文字、图像、音乐还是视频。它可以从一个例子中获取一个想法，并将其应用于完全不同的情况。
哈伦先生说，这种能力与人类相似。“这东西不像鹦鹉，重复我们喂给它的东西，”他说。“这是进行高层次的类比。”
那么我们如何创建一套规则来阻止人工智能失控呢？哈伦先生说，我们不能，因为他说有些国家不会签署这些协议。
“我们生活在一个有朝鲜和伊朗等不合作国家的世界，”他说。“他们不会承认有关人工智能的法规。
“对不合作行为者的监管是天上掉下来的馅饼！你能想象伊朗寻找摧毁以色列的方法并关心人工智能监管吗？”
物理学家 Reinhard Scholl 是联合国“AI For Good”计划的创始人。其目的是寻找并实施实用的人工智能解决方案，以帮助实现联合国的可持续发展目标。其中包括从消除贫困到消除饥饿以及让每个人都能获得清洁水等方方面面。
AI for Good 于2017年作为一项年度活动开始，现已发展成为定期举办的在线研讨会，涵盖人工智能的各个方面。
拥有超过20,000名订阅者的 AI for Good 已经触动了人们的神经，但对积极的 AI 的兴趣并不意味着 Scholl 先生感到乐观。
“人工智能应该受到监管吗？这是理所当然的，是的！” 他宣称，将这种情况与汽车或玩具制造商必须遵守安全法规进行了比较。
他最担心的是，人工智能使不良行为者相对容易地利用该技术作为获取危险能力的跳板。
“物理学家在理论上知道如何制造核弹，但在实践中却非常困难，”他说。“但如果有人使用人工智能来设计生物武器，他们就不需要知道那么多。
“如果人们太容易利用人工智能造成重大损害，那么就会有人这么做。”
但未来的联合国人工智能监管机构应该采取什么形式？一项建议是，它反映了国际民用航空组织（ICAO）的规定，该组织负责监管全球航空旅行及其安全。该组织有193个成员国。
罗伯特·奥普 (Robert Opp) 是一位人工智能专家，他支持组建类似于国际民航组织 (ICAO) 的机构。奥普先生是联合国开发计划署的首席数字官。
该机构的任务是帮助各国推动经济增长和消除贫困。在他的工作中，他试图找到利用技术提升组织影响力的方法。
这包括利用人工智能快速查看贫困地区农田的卫星图像。奥普表示，他不想阻碍这种能力，也不想限制生成式人工智能帮助穷人创业的潜力。
但他也承认人工智能的潜在缺点。“解决人工智能治理问题存在紧迫感。”
不管紧急与否，维基百科的威尔士先生认为联合国完全被误导了。
他认为，国际机构高估了谷歌等科技巨头在人工智能产品雪崩中所扮演的角色，犯了一个重大错误。威尔士先生补充说，再多的善意也无法阻止软件开发者个人及其对人工智能的使用。
他说，在科技巨头的边界之外，无数程序员正在使用免费的人工智能软件，这些软件的基线代码可以通过互联网获得。“有数以万计的个人开发者正在这些创新的基础上进行开发。对它们的监管永远不会发生。”
