网站首页

半岛彩票产品中心

半岛智能终端处理器 半岛智能云服务器 半岛软件开发环境

半岛彩票新闻中心

关于我们半岛彩票

公司概况 核心优势 核心团队 发展历程

联系我们半岛彩票·(中国)官方网站

官方微信 官方微博
半岛彩票·(中国)官方网站 > 半岛彩票产品中心 > 半岛智能终端处理器

谨防人工智能滥用 规范信息半岛彩票内容生成

发布时间:2023-09-09 11:02浏览次数: 来源于:网络

  半岛彩票ChatGPT等生成式人工智能服务打破了社会公众对人工智能技术应用的传统认知,其生成内容具有高度的智能化、仿真性特征,在特定情况下,甚至能够替代人工生成相关营销文案等信息内容。倘若不事前标注网络信息内容是通过人工智能技术所生成,一般人甚至无法直接区分是不是人工撰写内容。在新闻出版行业,部分新闻媒体已经在尝试开设专版,该版面主要呈现人工智能技术生成的新闻内容。可以说,一旦生成式人工智能技术得到广泛普及,社会生产方式和分工架构必然会发生颠覆性变化。

  然而,技术双刃剑的魔咒同样存在于人工智能领域。生成式人工智能技术应用的最大优势在于能够在短时间内批量生成同质性的网络信息内容,一旦这种技术优势被应用于电信诈骗、网络造谣等违法犯罪活动,既会对网络舆论生态造成毁灭性破坏,也会对国家安全和社会稳定产生重大威胁。事实上,在我国已经出现了非法滥用生成式人工智能技术的案例:湖南省耒阳市公安局网安大队发现犯罪嫌疑人利用AI智能工具制作、传播虚假新闻;河南省郑州市公安局航空港分局发现犯罪嫌疑人利用AI软件渲染修改新闻报道;内蒙古自治区包头市公安局破获一起利用“AI换脸”进行电信诈骗的案件,等等。

  面对日趋严峻的人工智能技术滥用风险,国家互联网信息办公室联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》(以下简称《办法》),自2023年8月15日起施行。

  《办法》囊括了监管机构、信息服务提供者、用户等主体的法律义务。尤其在第三章“服务规范”中,更是明确信息服务提供者应当采取显著标识、违法内容应急处置等措施,控制违法不良信息恶意生成的风险水平。《办法》与《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等法律法规共同构成了网络信息内容生态治理体系,在传播网络谣言、网络暴力、虚假信息等传统网络信息内容治理路径之外,补全了机器批量生成违法不良信息的治理模式。更重要的是,《办法》不仅对用户终端层面所生成的信息内容类型作出了明确限定,更对相关产品或服务的研发设计阶段提出具体的监管要求。例如,《办法》要求相关服务提供者在进行预训练、优化训练等训练数据处理活动时,应当采取有效措施提高训练数据质量,以此提升生成内容的合法性与合理性。

  具体而言,《办法》在规范信息内容生成层面提出了四个方面的监管要求:第一,继续延续《互联网信息服务深度合成管理规定》的既有规定,信息服务提供者应当对图片、视频等生成内容进行诸如“该图片由人工智能自动生成”等显著标识。之所以特别强调图片、视频等信息类型,是因为图片、视频无法轻易修改以及“有图有真相”的认知逻辑使得传统的辟谣难度和辟谣成本大大增加,社会公众也无法在足以以假乱真的图片、视频等信息内容中辨别真伪。

  第二,信息服务提供者应当设置违法内容应急处置机制。一旦发现用户有意生成违法不良信息或者相关人工智能服务可能会自动生成违法不良信息时,提供者应当立即采取停止生成、停止传输、消除等处置措施,同时,也应当对算法模型进行优化训练。这些处置措施主要根据实际情况、整改成本以及技术可行性等要素予以确定,并不局限于前述措施。此外,提供者还需要及时就生成式人工智能服务可能生成违法不良信息以及准确采取的处置措施向主管部门报告。

  第三,信息服务提供者应当对使用者的违法行为进行及时处置。从网络信息传播方式来看,从用户端限制违法不良信息传播的实际效果远远不如从服务端控制用户使用行为的效果。因此,《办法》明确要求信息服务提供者在发现用户利用生成式人工智能服务从事违法活动时,理应对其账号及其权限采取处置措施,包括但不限于警示、限制功能、暂停或者终止向其提供服务等。同时,信息服务提供者还应当对违法行为以及采取的措施如实记录并留存,向主管部门报告相关违法事实。

  第四,信息服务提供者还应当设置运行有效的投诉、举报机制。投诉、举报的事项除了用户个体权益受损的侵权事实之外,还应当包括用户所发现的生成式人工智能服务被滥用的事实。并且,《办法》还强调信息服务提供者所设置的投诉、举报入口应当便于公众访问,且在合理期限内及时向公众反馈处理结果。

  预防技术滥用风险不能简单等同于限制技术发展,规范网络信息内容生成的关键应当回归至多方治理主体共同参与的话语体系之中。在《办法》中,明确提及了立法目的是促进生成式人工智能健康发展和规范应用,而非以安全保障限制技术创新发展。《办法》体现了协同治理和系统治理的创新性治理理念,一方面,明确信息服务提供者在研发设计、技术应用和服务反馈等各个阶段的风险预防义务之外,形成全流程、全环节的治理机制;另一方面,明确监管机构、信息服务提供者、信息服务使用者各自的法律义务,形成协同式、系统性的治理架构。

  我国具有超大规模市场、海量数据资源、丰富应用场景等优势,数字经济发展取得显著成就,规模连续多年位居全球第二。

  2023年德国柏林国际消费电子展于9月1日至5日举行,始于1924年的柏林国际消费电子展今年迎来了99岁生日。历史上,爱因斯坦曾是该展会的热心观众,许多当年炙手可热的德国电子消费品牌如根德、德律风根也成名于此。

  本次发现的角龙类恐龙化石体长约1米,全身骨骼保存近乎完整。化石修复团队负责人、国家古生物化石专家委员会委员张福成介绍,一般认为角龙类恐龙演化由原始到成熟过程中,头上逐渐出现大型角等头饰,行走方式也从两足转向四足。

  本次科学考察是党的二十大后自然资源部组织开展的首次北冰洋科学考察活动,也是我国科考船第一次抵达北极点区域开展综合调查。

  北京时间9月7日02时14分,我国在酒泉卫星发射中心使用长征四号丙运载火箭,成功将遥感三十三号03星发射升空,卫星顺利进入预定轨道,发射任务获得圆满成功。

  中国高铁“出海”迎来里程碑时刻!9月7日,随着一列融合印尼本土文化的红色和银色涂装、配有印尼国宝级动物科莫多龙抽象纹理图案的动车组上线

  这项研究成果由中国科学院古脊椎动物与古人类研究所(以下简称“古脊椎所”)和福建省地质调查研究院合作完成,相关论文已在学术期刊上发表。

  但是,由于技术上对单原子比特操控能力仍然不足、光晶格相位漂移较大、缺乏多原子纠缠判定的有效方法,进一步连接纠缠对和测控多原子纠缠态遇到了瓶颈问题。

  优先推荐包括医务人员、60岁及以上的老年人、罹患一种或多种慢性病人群、6至59月龄儿童及其家庭成员和看护人员等重点和高风险人群及时接种。

  9月6日,在四川省泸州市冯湾特大桥施工现场,随着第一组500米长的钢轨稳稳落下,渝昆高铁川渝段全面进入铺轨阶段。渝昆高铁是全国铁路网“八纵八横”主通道之一的京昆通道的重要组成部分,设计时速350公里。

  此次跨洋中脊海洋电磁法联合探测作业由中国科学院南海海洋研究所地球物理综合科学考察船“实验6”执行。

  氧28是中子数极多的原子核,它将成为研究超过中子滴线的极限原子核的结构时重要的理论基准,也将有助探索高密度天体中子星的结构。

  如今,中国自主研发的高精度定位技术,创新拓展了卫星技术在建筑施工中的应用,攻克了超高层建筑高精度施工难题。

  “项目实现有效申报,对我们企业的科技研发帮助太大了!”日前,山东省滨州市惠民县胡集镇星火智能制造公司总经理高书征在今年泰山创业人才项目实现有效申报后高兴地说。

  作为本届服贸会重要的科技板块,首钢园区的电信、计算机和信息服务专题展以“数字技术 赋能未来”为主题,布局了通信和数字技术、元宇宙应用两大主题馆。

  展望未来,香港特区会继续积极融入国家发展大局,与深圳携手并肩,协同推动合作区建设,推动粤港澳大湾区科技创新高质量发展,将合作区打造成为世界级的创新平台。

  北京时间2023年9月5日17时34分,我国太原卫星发射中心在山东海阳及附近海域使用谷神星一号海射型运载火箭,将天启星座21星至24星共4颗卫星顺利送入预定轨道,发射任务获得圆满成功。

  中国已形成规范化、定量化的空间天气监测预报预警业务,空间天气预报准确率达到国际先进水平,近期圆满完成了第六次国际值班任务。

  长沙聚焦国家所需、发展所向、自身所能,创造性地将视野与格局放在了“全球”。

  日前,中国科学技术大学应邀向中国国家博物馆捐赠“九章”量子计算原型机相关科学元器件实物和原始资料。

下一篇:半岛彩票风投大佬安德森:人工智能未来将无处不在 它将陪伴人类到老
上一篇:陈根:人工智半岛彩票能给人类带来的最大挑战是什么?

咨询我们

输入您的疑问及需求发送邮箱给我们