网站首页

半岛彩票产品中心

半岛智能终端处理器 半岛智能云服务器 半岛软件开发环境

半岛彩票新闻中心

关于我们半岛彩票

公司概况 核心优势 核心团队 发展历程

联系我们半岛彩票·(中国)官方网站

官方微信 官方微博
半岛彩票·(中国)官方网站 > 半岛彩票产品中心 > 半岛智能终端处理器

人工智能不发展就是最大的不安全!半岛bob综合登入

发布时间:2024-03-29 01:23浏览次数: 来源于:网络

  半岛彩票“人工智能是先进生产力,它正在以前所未有的深度、广度和速度,进入我们的生产和生活。它还不成熟,存在着固有的缺陷,存在着被滥用的可能,需要对它进行治理,但这不能成为阻碍它发展的理由——对于人工智能,不发展就是最大的不安全。”中国新一代人工智能发展战略研究院执行院长龚克在国家科技传播中心讲坛上发表如上观点。

  《国家科技传播中心讲坛》是中国科协打造的新型演讲类新知栏目,以科学精神,科技探索和科技产业为主要讲述内容,汇集相关领域顶尖科技工作者讲述科技创新故事,传播前沿创新成果,弘扬科学家精神。本文摘选部分内容以飨读者。

  对人工智能可以有很多不同看法,我这里强调三点。第一,人工智能是一个不可抗拒的、加速发展的新质生产力。第二,它正在经历着重大的技术突破——不是“经历了”,是“经历着”,它整个还处在重大的技术突破过程中。第三,它还不成熟,但是已经在用了,而且是越用越广,它的风险需要被控制。

  人工智能是一项技术,是一项要完成人类规定的,或者人类所需要的任务的技术。它通过什么办法来完成?通过模仿人类的智能行为。人类智能行为需要分成四个步骤来完成:首先是感知,在感知基础上有认知,认知之后叫谋行,即谋划行动,最后是执行。

  人工智能发展已经有70多年历史了。过程中有几个重要的节点,其中最重要的是1956年,在美国达特茅斯举行了一次会议,一群年轻人在当年夏季的研讨会中提出了人工智能的概念。这群人中岁数最大的一位是Claude Shannon,他是信息论的创始人,当时他已经是MIT正教授,也不过才39岁。

  进入新世纪,华裔科学家李飞飞建立了一个有1500多万张标注好的图片的巨大数据库,全世界搞图像识别的人可以用这个数据库对AI进行训练,然后进行识别。最初这个比赛表现最好的五个团队,平均错误率达到28%,然后逐年下降。作为对比,人类识别的误差率在5%-10%之间。到了2012年 、2013年的时候,AI就逼近了人类的水平。

  这个进步,科学家依赖的是一种叫做深度神经网络的算法。从那以后,所有最好的团队都用深度神经网络,很快就突破了人类界限,错误率直逼3%以下。这一巨大的成功使得图像识别变成了第一项成熟的人工智能应用,人工智能从论文和实验室走到了我们的生产和生活之中。

  2022年11月30日发生了一件事情,OpenAI宣布他们的一个产品诞生,这个产品叫ChatGPT,我们现在把它称为生成式的人工智能。它可以模仿人类生成文本、剧本、图像、视频,以及程序的代码。这是一个重要的进步,我们认为它开创了人工智能发展的新阶段。

  从技术上看,这个新阶段是由于有巨大参数的大模型同一系列其他技术相结合,实现了对语意的基本掌握。我们知道,所有的人类语言中用了很多词汇,但是同一个词汇在不同的上下文之间,可以表达不同的语意。这个大训练模型利用了很长的文本,使得每一个词的语意得到相对比较准确的表达。

  从应用上看,chat也是非常重要的。在这之前比较有名的AI有Deep Blue(深蓝),是下国际象棋的。后来出现下围棋的AlphaGo。在中国,下国际象棋的人不多,下围棋的可能多一点,但依然不是所有人都下围棋。现在到了chat,everyone chats,所有人都会聊天,通过聊天把人工智能推向了所有的人。我想这是在应用上一个重大的进步。

  但这也引起了社会上的一些焦虑,担心AI会不会最后超过我们人类、它和人类是什么关系、人类能不能有效地管控它、它会不会终结我们人类。在这种情况下,去年3月份,包括Elon Musk在内的一批名人,就发出一个呼吁,说是要把人工智能的发展先停下来,至少停6个月。

  但事实上它并没有停下来。2023年6月份,麦肯锡做了一个调查,发现在亚太和北美地区,有40%的人在工作或生活中常规性地在使用AI;在技术领域和传媒领域,甚至有50%的人在使用生成式AI——那时离ChatGPT出现只有半年的时间。这说明人工智能已经实实在在地走进了我们的生产和生活,这是一个挡不住的、重要的、历史性的趋势。

  根据预测,从2023年到2030年,人工智能将以36.8%的速度在市场发展。我不知道还有什么其他的行业可以被预测有这么高的发展速度。

  自古以来,人类从茹毛饮血到男耕女织,一直到今天的超级计算,人类总是不断创造出工具来增强我们的能力,增强我们的体力,增强我们的脑力。这是人与其他动物的重要区别之一。自有文明史以来5000多年,人类在生理上并没有什么重大的变化,但是今天人类的能力,比5000年前要强得多。强在什么地方?不是我们的脑比那时候更发达了,或者是我们的骨骼比那时候更发达了,而是我们使用的工具比那时候更先进了。这个过程就是生产力的进步。

  人工智能就像机械动力技术、电气技术那样,是革命性的通用技术,在所有的行业都能用,它会带来整个社会的智能化。如何实现这样的技术突破?这需要一个从量变到质变的过程。2018年刚推出来的第一代GPT,只有10亿的参数,到2019年达到了15亿的参数,有所增长;到了2020年6月份,达到了1750亿的参数,这个增长已经不是一般的量变,可以称之为突变了。现在参数又有了数百倍的增长,更是达到了几十万亿。这种量的变化给AI带来了巨大的能量。

  这个参数是什么意思?指的是我们模仿人脑创造一个神经网络的模型,模型中连接点的数量。人脑有860亿个神经元,这些神经元通过触突连接起来,我们模仿它,所谓模型参数就是这种连接的数量。但模型参数是不是越大越好、把参数做到无限大的时候AI就能变得无限聪明?也不尽然。非洲大象的神经元数量比人还大至少三倍,但是它并不比人聪明。这告诉我们,简单地去增加参数数量并不能达到更好的智能效果。所以我们一方面要增加参数,另外一方面还需要技术的黄金组合。

  ChatGPT一系列的技术里面,有几项特别值得一提的技术,其中一项叫 Word Embedding ,翻译成中文叫词嵌入。这是比较难懂的一个词,是把一个词嵌入到一个矢量的空间里面。这里面矢量的维数可以非常多,每一维以0或者1代表一个矢量的性质。比方说第一个维度以0和1代表它是个生物还是非生物;如果是生物,下一维度,这是动物还是植物;如果是动物,下一维度判断这是哺乳动物还是非哺乳动物;如果是哺乳动物,是地上跑的还是天上飞的……在一个高维矢量空间里,把一个词意给它确定下来,这就叫做 Word Embedding。

  还有一项重要的技术,GPT的T是Transformer的首字母。Transformer我们翻译成变换器。这个变换器是干什么的?是做编码和解码用的。编码和解码会产生另一个概念,我们叫做 attention,翻译成注意力,它可以在很长的上下文中找到关键词。人看文章的时候,不是在每一个词上都平均用力的,而是迅速抓住关键词,这对AI来说也是一个重要的功能。

  接下来还有一个重要的功能,叫做基于人类反馈的强化学习。就是AI说错了以后,我们告诉它:“你说得不对吧?你写得太长,要压缩。”在这个人类反馈过程中,可以把人的价值观、社会的风俗、法律的规定、技术的标准、人的审美和情绪,用语言输入给模型,让它产生你所需要的结果。

  这一系列重要技术组合,才产生了今天的技术突破,而且按照我的说法,它正在经历着突破,还在往前走着。

  大模型带来一个非常重要的工作模式和很多新的岗位。这个新的工作模式叫做MaaS,Model as a Service。原来我们说软件是个服务,网络是个服务,平台是个服务,现在说,模型是个服务。这个预训练的大模型会变成一个社会的基础设施,让我们的各行各业在这个预训练大模型基础上,用我们的数据和专门的知识,结合我们特定的任务,把它变成一个专用的模型。

  这时候就降低了我们使用模型的门槛。即便要改进模型,也不用从头做起,我们可以拿过一个大模型来,结合我们需要用的专门的数据做精调。现在有招聘一种岗位,叫做提示工程师。提示工程师的主要工作就是跟AI对话,通过有效对话来对它进行训练。GPT工程师可以在模型基础上去改错、加工,而不是从头一行一行写C语言代码,这使得原来最低级的程序员变成了软件系列里比较高级的系统分析师。如果我们把AI看成是一辆车,我们不仅需要设计车的人和造车的人,更需要会开车的人。这就是一旦普遍使用这个工具,就会产生各行各业新的工作岗位的原因。

  但人工智能的应用也是有风险的。它存在风险的一个最根本的原因在于,它在推测答案的时候,用的是概率,叫做联合分布概率。给它输入一个问题,它判断哪些词与输入的词组合形成的概率最高,那就是它选择的输出。既然它是通过概率来判断的,就不可能100%正确,总有出错的时候。人也会出错,只不过我们可以通过长期的实践、根据民主决策的程序、通过专家咨询等,来尽量减少人的错误。而对大模型,现在还存在不可解释性,还不能清晰地说明在什么样的条件下可以影响它的概率分布。

  我们认为这种出错基本上会来自两个方面:一是技术内在的不完善,联合分布概率因此不可完全控制;另外一方面来自于它的滥用——再安全的车,也可以开着去撞人,不是车不好,也不是车的技术参数不好,危险来自对它的滥用。

  以上内容可以归结为三点:第一,人工智能是先进生产力,发展不可阻挡;第二,它正在形成大的突破,而且是以前所未有的深度、广度和速度,在进入我们的生产和生活;第三,它还不成熟,存在着固有的缺陷,存在着被滥用的可能,需要对它进行治理。在这三点基础上,我们可以讨论如何发展AI。

  创新和应用是一个相互迭代的过程,是相互促进的,没有创新就没有有效的应用。在此我借用一下“深度学习”中的“深度”概念,提出深度的创新和深度的应用。深度创新,指的是要在根上创新,要突破模型可解释性问题,我们不能总是把别人做的模型拿过来做fine tuning。我们有没有可能在类脑神经模型上做新的突破?就是把前文说的MaaS这个模型作为一个服务给广泛推出,在应用大模型基础上,把人工智能从chat推向product,变成了product以后,才能真正发挥效益。

  这里我给大家举一个例子。现在一些头部的企业已经在推出面向行业的应用,但这些应用需要跟行业更紧密地结合,把它真正落到生产的深部。我们研究院做了一个试验,到全国开展自动驾驶网联车的那些城市去发调查问卷,分成坐过网联车的和没坐过网联车的。我们看到无论是试验组还是对照组对自动驾驶汽车上路进行测试,都持积极的态度,其中坐过的(试验组)态度更为积极。拿武汉举例,自动驾驶出租车推出商业服务不到500天的时间,有一个人就用了900多次,差不多一天用两次自动驾驶车接送他的孩子。这说明这项技术在中国有比较好的接受度,我们可以在大规模应用过程中完善技术。

  创新和应用之外,我们发现了一个更重要的现象:创新和应用在中国的发展是由平台支撑的。我们调查了全国的2205家人工智能企业,看这些人工智能企业的资金从哪里来,投资向哪里去;看他们的人才从哪里来、人才跳槽向哪里去;看他们的技术从哪里来,如果输出技术向哪里去。人、才、技术形成了这些企业之间的相互联系。

  在这两千多家企业的背后,我们发现了一大批投资者、一大批科研院所、一大批政府的科研园区等。其中有15家企业是科技部命名的,叫人工智能开放创新平台。这15个开放创新品牌,在这两千多家企业中起到了重要的推动作用。这是一个平台推动的发展生态。

  我们需要建立一批跨界的创新组织,用这些创新组织来探索这种由平台驱动的新质生产力,形成更好的上层建筑(生产关系),来加快创新应用的循环,推动产业的新生态,实现人工智能和实体经济的深度融合。这是写进我们党的十九大报告的一句话:推进人工智能和实体经济深度融合。

  还有一个关键词是治理。在这里,治理的对象是一种生产力,而且是一种先进的生产力,我们要以是否能解放和发展这种生产力作为治理的标准。最忌讳的,就是用现存的生产关系来约束正在迅速发展的先进的新质生产力。切记不能把这一生产力的发展和它的安全给对立起来——不发展就是最大的不安全,我们要治理它,首先就要把它发展好,要发展好就要鼓励从根上创新,没有根上的创新就没有根上的安全,就实现不了发展。

  目前我们国家建立了基于风险的、对人工智能的治理机制,划出了一些高风险应用。比如把脑机接口植入到人的大脑里,风险就比较高,这样的应用就属于高风险应用。

  智能化社会来了,我们需要全民的人工智能素质,但是不需要社会焦虑。现在有些完全不必要的社会焦虑,它们的存在只会对人工智能的发展、对生产生活的高质量发展带来毫无必要的干扰。

  最后一个关键词是人才。有人评估说,光是中国人工智能领域,相关岗位就缺500万,现在我们就要把这500万人给培养出来。但还不止于这500万,我们整个已经进入人工智能时代,这个时代所有合格公民都应该具备人工智能相应的素质,能够学会驾驭人工智能。这就需要对我们的教育系统提出新的要求。

  应用人工智能,特别要注意的是我们可以驾驭而不可以依赖这个工具——必须清楚,AI生成的只是半成品,它要经过人类的审视、人类的加工,才能变成一个真正的成品。我们要对它做factual check、logic check、ethical check,也就是做事实的、逻辑的、伦理的审查。这里有个词叫做critical thinking,翻译成批判性思维,其实我觉得翻译成审辩思维更好。

  万兆元年,谁来领航?是更智慧AI,是更领先的Advance,是刷新极限的速度,还是升级多维的体验?中国移动5G-A商用发布会,重新定义数智新时代,邀您共同见证!3月28日15:00-16:00

  作为中国大科学装置之一,高能同步辐射光源是由中国科学院、北京市共建的怀柔科学城大科学装置集群的核心装置。

  2022年8月15日,国际天文学联合会小天体命名工作组发布公告,将国际永久编号为192353号的小行星命名为“王大中星”。围绕大学的根本任务是育才造士这一核心要义,王大中归纳并紧抓建设一流大学的三大要素:大师、大楼和大学精神。

  坎潘特强调,最新观测表明,精确的星震学技术可用于探测表面温度低至4200℃(比太阳表面低约1000℃)的矮星,为天体物理观测开辟了一个新领域。这一最新结果表明,星震学技术有望详细表征这些恒星及其宜居行星的细节,而精确确定附近冷矮星的年龄对于阐释系外行星上发现的生物特征可能至关重要。

  记者从自然资源部3月27日召开的例行新闻发布会上获悉:今年是极地考察40周年,自然资源部将开展一系列活动纪念这一重要时间节点。7月北极黄河站建站20周年时,在黄河站举办招待会、研讨会等相关活动,中国第四十一次南极考察期间将在长城站、中山站举行招待会、研讨会等相关活动,“雪龙”号、“雪龙2”号船停靠外港时举行公众开放日活动。

  联合国教科文组织执行局27日批准18处地质公园列入世界地质公园网络名录,其中包括中国的6个地质公园,分别是长白山世界地质公园、恩施大峡谷-腾龙洞世界地质公园、临夏世界地质公园、龙岩世界地质公园、武功山世界地质公园、兴义世界地质公园。

  据介绍,除了服务于中国探月工程四期,后续鹊桥二号中继星还可为国内外月球探测提供中继通信支持。

  涂白防虫、修剪树枝、引水灌溉……每当春天到来,在祖国西北边陲新疆托里县老风口,生态造林工作就紧锣密鼓地开始了。

  今年我国纪念“世界水日”“中国水周”的活动主题为“精打细算用好水资源,从严从细管好水资源”。

  在齐齐哈尔市甘南县宝山乡巨宏村,村民苑忠国正在准备春耕,多年来通过参与县里的培训,春耕物资的采购对他来说已是轻车熟路。

  在开展调查监测,评估新污染物环境风险状况方面,《行动方案》提出建立化学物质环境信息调查制度、建立新污染物环境调查监测制度、建立化学物质环境风险评估制度、动态发布重点管控新污染物清单等具体措施。

  一群“麦哲伦”式的实验物理学家正在高能物理的版图上开疆拓土。而玻色子的发现,正在指向新的“盛宴”。

  作为古生物学家,徐星是中国科学院院士、中国科学院古脊椎动物与古人类研究所研究员,同时也是云南大学教授,主要从事中生代陆相脊椎动物化石及地层学研究。

  近期,12P/Pons-Brooks彗星(以下简称12P彗星)成为全球瞩目的对象,我国不少天文爱好者成功观测并拍摄到这位“天外来客”。

  日前,中办、国办印发《关于加强生态环境分区管控的意见》(以下简称《意见》),明确提出到2025年,生态环境分区管控制度基本建立,全域覆盖、精准科学的生态环境分区管控体系初步形成。

  眼下正值春耕备耕的关键阶段,突如其来的天气变化,是否会对春耕、农作物造成影响?

  3月24日是世界防治结核病日。南开大学饶子和院士团队与上海科技大学免疫化学研究所张璐研究员团队合作,首次揭示了抗结核新靶标Rv3806c的冷冻电镜三维结构。

  25日,中国海油发布消息,我国在渤海超5000米的地层钻探发现一口高产油气井,测试日产油气当量近1400立方米,创造了我国海上深层油气探井日产最高纪录。

  “绝对安全”的通信是千百年来人类的梦想之一,从摩斯电码到电报、传真,从移动电话到网络通信,通信技术的发展同时带来了各类安全隐患,与通信安全相关的技术一直是科技界、产业界的重点攻关方向。

  记者从中国科学院近代物理研究所获悉,该所研制的中国超重元素研究加速器装置(CAFE2)取得重大突破,成功实现了14.8粒子微安流强、224兆电子伏能量的束流在靶稳定运行,创造了国际同类装置运行束流参数的最高流强纪录。

下一篇:bob半岛在线登录“人工智能”成为博鳌亚洲论坛热话题 大湾区可推动人工智能与产业深度融合
上一篇:人工智能的机遇:青岛如何把握半岛bandao体育

咨询我们

输入您的疑问及需求发送邮箱给我们