半岛彩票明年,大型科技公司不可能是唯一构建人工智能的公司。监管机构需要让更多的人参与进来。
2023年,电脑开始表现得像人类一样奇怪。正如OpenAI的伊尔亚·苏茨克维(Ilya Sutskever)所说,你可以把人工智能想象成一个“数字大脑”,一个直接模仿人类大脑的大脑。就像小孩子一样,人工智能也有动机,会向周围的人学习。如果ChatGPT是一个小孩,它将在市值900亿美元的OpenAI公司中成长,并学会将利润最大化放在首位。
如果一个以盈利为目的的人工智能被赋予治疗癌症患者的任务,它是会解决治愈,还是持续治疗?答案是哪一个产生的收入最多,但人工智能可以优先考虑健康和公平等核心人类价值观。如果我们在2024年制定规则来决定谁来建造人工智能并从中受益,我们就可以让人工智能更人性化,更少受利润驱动。
美国国会议员罗·康纳(Ro Khanna)指出:“人工智能技术有潜力创造巨大的财富,但我们需要确保工人得到他们的份额,而不仅仅是那些最富有的人。”
议员康纳表示,在关于人工智能将如何改变我们的经济的对话中,我们必须给工人一个席位。然而,OpenAI的首席执行官萨姆·奥特曼(Sam Altman)认为,他的人工智能总有一天会让工人变得无用。你觉得他在虚张声势?他联合创立了加密货币公司Worldcoin,声称当人工智能最终取代我们的工作时,它打算将财富重新分配给人们。它还面临着一个问题,即作为一家私人公司,它希望获取生物识别数据,并成为身份识别首选来源的私营公司。
许多人工智能开发者、研究人员和监管者,比如议员康纳,都认为让尽可能多的人掌握人工智能是至关重要的。技术总是反映出创造它的社区,但最能反映这一点的莫过于人工智能。换句话说,人工智能太重要了,只有大型科技公司才能开发它。我们不知道人工智能最终会是什么样子,但专家表示,我们的监管需要扩大我们社会对人工智能的接触。
Mozilla基金会主席马克·苏尔曼(Mark Surman)认为,非营利、开源机构应该在人工智能领域发挥重要作用,就像、Mozilla和Linux对早期互联网的作用一样。理想情况下,每个人都可以使用人工智能构建模块工具包,这些模块值得信赖,易于使用,并且不会窃取您的数据。用他的话说,“人工智能时代的开源乐高”。
马克·苏尔曼说:“OpenAI听起来像是他们一开始想要建立的,但感觉就像他们一路上抛弃了这一使命,选择了成为一家初创公司。”
OpenAI在技术上仍然由一个非营利性董事会控制,但该公司的营利性分支似乎已经超越了公司。这一点在今年感恩节前的一次戏剧性爆发中得到了澄清,当时董事会没能成功解雇萨姆·奥特曼,最终他们只能自己离开了。就像人工智能一样,人类也容易在利润丰厚的环境中追求利润。
互联网是一个很好的榜样,因为它已经成为我们社会有史以来最有用的工具之一,很大程度上是因为它对所有人开放。马克·苏尔曼说,我们需要看看谁控制着人工智能,谁控制着人工智能下面的数据。
“如果是社交媒体模式,甚至是OpenAI模式,它是一个庞大、丰富、集中的云提供商 —— 这并没有给我希望,我们正在创造我们真正信任的代理,为我们工作,”马克·苏尔曼说。“所以我们需要一种不同的模式。我们需要一种模式,将决策权和所有权交给每个人。”
马克·苏尔曼提到的社交媒体模式对科技行业来说是一场隐私灾难。AI21的首席人工智能政策官沙能·伯特歇尔(Shanen Boettcher)也表示,社交媒体有一种“快速行动和突破事物”的方式,很少关注其对社会的影响。今天,我们在GenAI市场上也看到了类似的行为。
应用商店是缺乏开源模式时出现问题的另一个例子。苹果和谷歌很快就通过App Store和Google Play Store锁定了内容的分发,突然之间,你的应用就只存在两个地方,它们都能获得30%的利润。现在我们看到反垄断监管机构试图在15年后拆除这些数十亿美元的结构。对于人工智能,15年可能太晚了。
Aible首席执行官兼创始人阿里吉特·森古普塔(Arijit Sengupta)表示:“我们最大的担忧是,拥有人工智能和没有人工智能之间的差距,将比你见过的任何时候都要严重。”他的公司正在努力让人工智能进入更多人的手中。森古普塔希望政府能够为人工智能设定社会目标,而不会以繁琐的流程扼杀小公司的创新。
他认为,每个国家都有自己独特的视角来看待人工智能。欧盟从隐私的角度看待人工智能,而中国则从“社会凝聚力”的角度看待人工智能。
“从美国的角度来看,我们正在从‘人工智能将接管世界并伤害我们’的角度来看待它。森古普塔说:“很多关于人工智能的讨论都是从伤害的角度出发的,而不是关注它如何赋予人们权力。”
人工智能初创公司Agent.Ops的联合创始人亚历克斯·雷布曼(Alex Reibman)表示:“我们对目前的立法和围绕它展开的讨论并不乐观。”亚历克斯·雷布曼的产品之一,一款支持人工智能的PDF阅读器,在OpenAI推出自己的版本时受到了限制。雷布曼、伯特歇尔和森古普塔都对监管俘获表示担忧。如果大型科技公司通过监管俘获在人工智能领域获得优惠待遇,结果可能是毁灭性的。
新泽西州国会议员乔什·戈特海默(Josh Gottheimer)最近因披露高达5000万美元的微软股票期权而受到抨击,该消息是由X账户Quiver Quant提出的。戈特海默是监管资本市场和非法金融等事务的小组委员会成员。
拉梅亚·克里希南(Ramayya Krishnan)博士是卡内基梅隆大学教授,他为美国商务部提供人工智能方面的建议。他说,美国需要大力投资于研究、小型组织和初创公司,这些公司实际上都被排除在该领域的主要创新者之外。
“这是谷歌、OpenAI、Anthropic、Cohere和微软,”克里希南说。“如果你从历史上看,作为一个社会,作为一个国家,我们受益的是这种广泛的参与和创新,大学、小公司和小组织都参与其中。”
值得庆幸的是,在这方面已经做出了一些努力。参议员创建了国家人工智能研究资源(NAIRR),为美国大学提供云计算资源。克里希南表示,这是对人工智能创新的巨大推动,但只有1.4亿美元的资金,克里希南表示,它需要更多的投资才能与大型科技公司竞争。
上周,非官方的“人工智能教母”李飞飞在《华尔街日报》上发表了一篇专题文章,称我们需要在2024年围绕人工智能采取“登月计划”的心态。上世纪60年代是美国政府最后一次支持其科技行业推动进步,由此带来的创新推动持续了几十年。如今,人工智能前景广阔,但公共部门需要在整个人工智能生态系统中进行广泛投资。我们需要将人工智能创新降至人类层面。