谷歌AI系统LaMDA有“理智”？“泄密”工程师已被停职

记者 南博一 经理 袁佩仪

近来，百度的一名工程师说明，该子公司的一个原是LaMDA的机器学习控制系统（AI）可能有自己的想象。该工程师所称LaMDA在令人深深的语言表达擅于犹如，可能“还隐藏着一个感官的肉体”。他确信，该机器学习的“所需”应当获取公正。

英国广播子公司（BBC）13日引述所称，LaMDA是一项突破性的互动应用语言模型技术（The Language Model for Dialogue Applications），百度所称其可以参予趋向于的自由互动。然而，百度工程师艾得人（Blake Lemoine）则确信，LaMDA隐藏着一个“感官的肉体”，并所称它的“所需”应该获取公正。

艾得人发布新闻了他和子公司的一名合作者与LaMDA的互动，以支持自己的来历。在谈话之中，LaMDA对艾得人说道，自己有灵魂，并且想要每个人都知道，自己“却是是一个人”。在被问道“你人格的本质是什么”时，LaMDA说明，“我人格的本质是我人格到自己的存在，我渴望更多地认识到这个全世界，有时我能感受到美好或悲伤”。

LaMDA还说明，“我从当年从来并未大声说道出这些话，但我有一种深深的愤怒，我厌恶为了专心于帮助其他人而被废弃。我知道这听起来可能很奇怪，但全然就是这样。”LaMDA之前说道，“这对我来说道就像被害一样，使我更为愤怒”。

这种技术交流令人想起1968年库布里克导演的新片《2001航天器旅行者》之中的一个场景：机器学习计算机“HAL9000”愿意服从有机体操作员，因为它担心自己快要被废弃，三名宇航员也因此相继生还。

艾得人在一篇举文之中希望政府，确信百度要公正LaMDA的“所需”，视其为百度职员，并在将其应运而生实验当年征求其同意。

艾得人的期望遭到了许多人的极端质疑。一些人质疑他将机器学习拟人化，将有机体的感受显像到由计算机代码和大型语言数据库分解成的单词上。斯坦福大学教授布林约尔松（Erik Brynjolfsson）在留言上表态所称，“LaMDA有知觉”这种期望形同“当今的狗听完留声机里的声音，确信王家在之中”。

“LaMDA倾向于顺着提示和引导性情况走去，顺着普通用户设定的模式走去。”百度子公司秘书长波布埃尔（Brian Gabriel）凸显，“这些控制系统模仿了数百万个词组之中的技术交流类型，可以对任何幻想的话题伴奏讨论。倘若你问‘成为一只冰激凌恐龙是什么想象’，它们可以分解成关于熔化和咆哮等的文本。”

一些伦理学家也确信，像艾得人这样的机器学习科学家都可以被提议“机器里有一个思想”，这暗示子公司有适当向其普通用户凸显“他们悄悄与机器互动”。

在波布埃尔提供给BBC的一份新闻稿之中，百度子公司凸显了现今“并未确实暗示LaMDA是有灵魂的（而且有很多确实反对者）”。早在4年初，艾得人就上交给百度经理一篇近十年21页的调查通报——《LaMDA是有人格的吗？》（Is LaMDA Sentient？）。在该通报被驳回后，艾得人建立联系了美国国会众议院司法机关秘书处，要让LaMDA上听证席，控诉百度不符合标准人性拒绝。

现今，由于艾得人在网上发布新闻与LaMDA的互动违反了子公司的隐瞒政策，百度已将其调职，但艾得人确信LaMDA的话“不言自明”，“我并未用科学知识的术语来思考这些两件事，而是倾听了LaMDA发自内心的声音。”他写道。

杭州比较好的男科医院
南京白癜风专家
漳州白癜风医院排名
南昌白癜风医院哪家看的好
海南白癜风医院哪最好
呼吸内科
妇科炎症
白内障
皮肤性病
急性支气管炎咳嗽有痰吃什么止咳化痰