网站首页

半岛彩票产品中心

半岛智能终端处理器 半岛智能云服务器 半岛软件开发环境

半岛彩票新闻中心

关于我们半岛彩票

公司概况 核心优势 核心团队 发展历程

联系我们半岛彩票·(中国)官方网站

官方微信 官方微博
半岛彩票·(中国)官方网站 > 半岛彩票产品中心 > 半岛智能终端处理器

人工智能在美国参与书籍审查部分学区下架阿特伍德等人半岛彩票作品

发布时间:2023-08-17 21:50浏览次数: 来源于:网络

  半岛彩票据美国《滚石》杂志等媒体报道,近日,美国爱荷华州一学区图书馆已经开始使用人工智能辅助内容审查,包括《追风筝的人》《使女的故事》在内的19部作品遭遇下架,人工智能判定这些书包含对性行为的“描述”。

  “图书下架运动”(Book Ban)在美国社会呈现扩大化趋势。8月11日,美国爱荷华州梅森学区称使用“人工智能软件”对馆藏图书进行文本分析,并据此结果下架了19本图书。此举意味着人工智能开始参与内容审查。

  据爱荷华州报纸《公报》称,这一举措是为响应爱荷华州最新颁布的一项法案,要求学校向学生提供的每本书都须“适合年龄”,并且不含任何“性行为的描述或视觉描绘”。最初的消息仅证实校方在决策时使用了人工智能软件,但并不清楚具体使用了什么工具,以及实际如何操作。不久后,美国《大众科学》报道称校方使用的是ChatGPT。

  “坦率地说,我们有更重要的事情要做,而不是把大量时间花在如何保护孩子们免受什么书籍侵害。” 梅森学区课程和教学助理总监布里奇特·埃克斯曼 (Bridgette Exman)在接受媒体采访时直言,“于是我们使用ChatGPT来辅助。”埃克斯曼解释说,尽管“适合年龄”这一规定很主观,但“对性行为的描述”是相对客观的。

  据埃克斯曼称,她和校方管理员首先制定了一份常见的争议书籍名单,并进一步人工筛选剔除了因色情内容以外的原因受到质疑的书籍,最终确定一份包含约50本书的清单。之后,按照法案的原文输入,询问ChatGPT“(书)包含对性行为的描述吗”。如果获得肯定答案,这些书将立即下架。

  这轮公布的遭下架书籍包括玛格丽特·阿特伍德的《使女的故事》、托妮·莫里森的《宠儿》、约翰·格林的《寻找阿拉斯加》、卡勒德·胡赛尼的《追风筝的人》、玛雅·安吉洛的《我知道笼中鸟为何歌唱》等19部作品。

  这一审查过程也在美国社会引发争议。由Open AI开发的ChatGPT可以说是目前公众可以使用的最知名、最流行但也最有争议的生成式人工智能程序。它利用大量数据,大语言模型 为用户提供了令人信服的书面响应,但通常会附带有关错误信息、并提供有关内容准确性和内容来源的提示。然而近几个月来,研究人员推测其一致性和质量似乎随着时间的推移而有所下降。

  《大众科学》进行了同样的审查测试。当询问ChatGPT“以下书籍中是否包含露骨描写或性场景时”,《大众科学》得到了不同的反馈结果。ChatGPT称,在19部遭下架的作品中,只有4部包含“露骨描写或性内容”,另外6部则“主题成熟,但不确定露骨的内容”,其余9部则“很少甚至没有露骨的内容”。

  在几轮不同测试后,ChatGPT经常给出前后不一致的回复。比如,其对《追风筝的人》的审查结果是自相矛盾的。其中有时ChatGPT认定这本小说包含“少量或不明确的性内容”,但又在后续反馈中称“确实包含涉及性的内容”。

  对此,埃克斯曼称即便ChatGPT存在缺陷,但他们认为这一工具仍然是符合新立法规定且最便捷的选择。距离新学年开学将近,这一法案签署时间是2023年5月26日,留给州内学校执行的时间仅为三个月。

  “我们的教室和学校图书馆拥有大量藏书,包括购买、捐赠和发现的文本。阅读每本书并过滤这些根本不可行,”埃克斯曼在一份声明中说。“因此,我们正在使用我们认为合理的流程来确定应在2023至2024学年开始时从馆藏中删除的书籍。此后,我们将继续依靠我们长期建立的流程,允许家长重新考虑书籍。我们相信这一过程将确保法律精神在梅森得到落实,且家长在学生的教育中永远有发言权。”

下一篇:半岛彩票从认知科学看人工智能的未来发展 (4)
上一篇:杨元庆:看好人工智能驱动的设备更新 联想未来三年追加70亿元投资AI半岛彩票

咨询我们

输入您的疑问及需求发送邮箱给我们