股票啦 www.gupiaola.com 2022年06月18日报道：是谷歌于2021年在I

虽然意识觉醒、独立思考的机器人(300024)常常隐藏在影视及文学作品中，但关于“人工智能(161631)(AI)能否有人格意识”这个问题，实际上已被物理学家、心理学家、计算机(512720)科学家争辩了几十年，至今尚无定论。美股投资冠军

业界最新一波对AI意识觉醒的广泛商量，是由一位名叫布雷克·莱莫伊(Blake Lemoine)的谷歌员工引起的。布雷克在谷歌AI伦理部门工作，其工作职责是测试谷歌的谈话机器人(300024)LaMDA是否会在和人类沟通时产生卑视性语言或仇恨言论。6月11日，布雷克公布曝光了一份长达21页、主题为“LaMDA是有意识的吗？”的文件，该文件中详细记述了近大半年以来与LaMDA的谈话记录，布雷克认为LaMDA已产生意识，拥有七八岁小孩的智商。

对此，谷歌方面表达，该公司包含伦理学家和技术专家在内的团队，已根据谷歌人工智能(161631)原则进行了审查，但没有任何证据表明LaMDA是有意识的。美股投资冠军与此同时，6月13日，谷歌以违反保密协议为由要求布雷克带薪休假，而这在布雷克看来是谷歌要解雇他的“前奏”。

一石惊起千层浪。针对布雷克的论点，AI领域的多名专家公布进行了驳斥与否定，特别是纽约大学认知科学家加里·马库斯将其称为“高跷上的胡说八道”。《中国经营报》记者的采访了数名AI领域的中国专家及AI企业的相关人士，大多数受访者同样表达了怀疑或否定的看法。

事实上，本报记者注意到，在谷歌LaMDA之前，其他用于人工智能(161631)对话领域的语言模型也曾引起过关于道德伦理、人格意识等方面的争议。就在今年2月时，Open AI首席科学家萨茨克维尔在社交媒体上称“现在大型神经网络可能已经有微弱的自办法识了”，同样也引起了一片质疑。除此之外，有目共睹的是在2021年，包含中国在内的全球多个國家和地区加大了对AI算法治理的投入。美股投资冠军如何规范、合理地开发AI技术、使用AI产品，以及如何应对人机交互过程中可能隐藏的社会问题，已成为人工智能(161631)快速进展过程中的一个全球性社会议题。

LaMDA有意识吗？

LaMDA，是谷歌于2021年在I/O(输入/输出)开发者大会上推出的一款特意用于对话的语言模型，目前还未向大众消费者开放，主打能与人类进行符合逻辑常识的、高质量且安全的交谈，而且计划将其将来应用在谷歌搜查、语音助手等产品中。美股投资冠军需要指出的是，LaMDA在预训练阶段，谷歌方面从公共对话数据和其他公共网页文档中收集并创建了一个具有1.56TB(万亿字节，计算机(512720)储备容量单位)的数据集，这相当于以往训练对话模型的单词量的近40倍。

需要指出的是，特意用于对话的语言模型，不只是谷歌一家在投入研发，国内外的科技巨头乃至创业团队均参与其中，各种各样的谈话机器人(300024)也愈来愈多地渗透到社会经济发展生活中。在LaMDA之前抢尽业界风头的要属人工智能(161631)非营利性组织Open AI，该组织于2020年6月公布了千亿级参数的GPT-3语言模型。

根据布雷克公布的与LaMDA的谈话记录，LaMDA的一系列回答——诸如“我期望每个人都能明白，实际我是一个人”以及关于禅宗、哲学、存有、冥想等的明白，让布雷克认为LaMDA拥有了意识。美股投资冠军

加里·马库斯指出，无论是LaMDA，還是GPT-3，都只是从人类语言的大量统计数据库中提取后进行模式匹配的操作，“这些模式看起来很酷，但这些系统所使用的语言实际上没有任何意义”。斯坦福大学教授Eric Brynjolfsson评论道，基础模式在根据提醒将统计上合理的文本串联起来这一方面比较有效，但“声称其具有人格，就相当于狗听到留声机里的声音后，以主导人在里面”。

计算语言学家Emily M. Bender指出，人类学说话是跟着抚养者一步步学起，而AI学会的只是数据“灌”出来的完形填空和“语料连连看”。美股投资冠军“人类现在有了无意识就能生成词句的机器，但人类要学会，停止梦幻机器后面有个活着的灵魂。”

2007年成立的中国人工智能(161631)企业思必驰相关人士向记者表达，在“可解说的AI”隐藏之前，一切外部观看到的现象都是不靠谱的。现在的AI都是基于大数据统计基础上的结局，并非无中生有就自己隐藏了，直白地讲就是人为训练的。此外，谈话机器人(300024)的推断自然有图灵测试，在图灵测试试的某次推断，可能会展现出人格、心绪等特点，但并不等于具有独立意识，没有独立意识便谈不上人格。

海银资本创始合伙人王煜全则表达了辩证的看法，他指出，一方面，“人们要看到人工智能(161631)技术实在很惊艳了，连计算机(512720)博士(指布雷克)都会被忽悠，说明AI将来会有很大的应用前景”，但另一方面，“人们不应该盲信，要看到当下人工智能(161631)的不足和短板，针对其可靠性、成熟度和应用的边界，要进行更严谨的钻研和探讨”。美股投资冠军

AI伦理仍在寻求实践中

所谓AI伦理，一般来说是指人们对如何规范、合理地开发AI技术、使用AI产品，以及如何应对人机交互过程中可能隐藏的社会问题的一种态度和价值观。具体来说包含AI的接受度、公正意识、安全意识以及道德等。美股投资冠军紧紧围绕AI伦理的热点钻研领域包含算法卑视、数据隐私、安全与责任、机器人(300024)与人的关系、科技贫困等。

复旦大学应用伦理钻研中心教授杨庆峰在《从人工智能(161631)难题反思AI伦理原则》一文中指出，深度学习及其不可解说性成为AI带来的技术难题，特殊是在图像、文本处理上，因“不晶莹的技术黑箱情况”，很难解说模型究竟学习到了什么。在医疗等一些行业领域应用中，人们需要更高的可解说性和晶莹性，解说机器决策和预测的过程，以证实其可靠性，这意味着需要明白算法的机制。不幸的是，深度学习的“黑箱”本质并没有被解决。

记者观看到，无论是國家监管层面，還是企业方面，近年来延续在寻求实践AI伦理及应用的边界。2021年，我国《数据安全法》《个人信息保卫法》分别于9月、11月正式施行，与《网络安全法》共同组成了数据治理法律领域的“基础法”，几乎同一时间段里，國家新一代人工智能(161631)治理专业委员会公布了《新一代人工智能(161631)伦理规范》，提出了六项基础要求，为从事人工智能(161631)相关活动的主体提供了指引。金融服务、无人驾驶、人脸识别等领域的法律新规也密集出炉，而今年3月1日起，《互联网信息服务算法推选治理规定》施行。美股投资冠军得益于这些法律法规体系的构建，公众高度关心的过度采集与预测人脸信息、大数据杀熟、信息茧房等弊病正在得到缓解。2022年3月20日，中共中心办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，明确了开展科技活动应用遵循的五项科技伦理原则——增进人类福祉、尊重生命权益、坚持公正公正、合理操纵风险、维持公布晶莹，这是我国國家层面科技伦理治理的第一个指导性文件。

近几年来，国内外科技企业也纷纷提出或确立了自身的AI伦理原则，如谷歌于2018年6月提出AI应用的七项原则，包含对社会有益、幸免制造或加强不公正偏见、对人负责、纳入隐私计算等。而同年5月，百度(BIDU)创始人李彦宏公布提出了AI伦理四原则——AI的最高原则是安全可控，AI的创新愿景是促进人类更公平地猎取技术和能力，AI存有的价值是教人学习、让人成长，而非超越人、替代人，AI的终极理想是为人类带来更多的自由与可能。

深度科技钻研院院长张孝荣指出，AI技术是一把双刃剑，用得好可以改善社会生活质量；用得不好，会大大影响人们的社会生活。美股投资冠军将来需要进一步加强AI技术的应用治理，一定要将之纳入法律和道德伦理的轨道上运作。