人類文明

人类发现围棋AI弱点获胜 暗示深度学习技术缺陷

  (转自“找借口安静”微信公众号)

  原址:https://www.nikkei.com/article/DGXZQOCB210NG0R20C23A2000000/

  原题:人間が囲碁AIに勝利、弱点発見 深層学習の欠陥示唆

  摘自:日本经济新闻

  作者:新井纪子、青木慎一

  编译和整理:找借口安静 第一次借助AI翻译

  人类在围棋比赛中成功地打败了目前最强的人工智能(AI)系统。在2016年,计算机的胜利被视为人工智能崛起的一个历史性时刻,但现在情况发生了惊人的变化。

  美国业余棋手凯林·佩林(Kelin Pelletier)具备仅次于当地业余顶尖棋手的水平,他利用另一台计算机发现了其特定的缺陷,击败了这个人工智能系统。此后佩林和计算机进行了15局比赛,获得了14次胜利,而这场直接对决没有任何计算机直接对佩林做出辅助。

  这次胜利揭示了目前广泛使用的围棋AI程序存在的弱点。这种人工智能技术也被应用于OpenAI在美国旧金山开发的ChatGPT(聊天GPT)等项目中。

  电脑调查人工智能的弱点

  让人类在棋盘上再次登上冠军宝座的战术,是通过调查人工智能弱点的计算机程序提出的。这个战术被佩林毫不留情地付诸实施。

  该程序由美国加州的一家调查公司“FAR AI”开发,其CEO亚当·格里夫表示,“攻击AI的弱点非常容易”,并且该程序已经与围棋系统“KataGo”进行了超过一百万次的对局,还发现了人类棋手可以利用的“盲点”。

  该战术的提出者佩林表示,该软件揭示出的必胜法并不平凡,但也并非非常困难。中级水平的棋手可以使用这种方法来击败机器。通过使用这种方法,佩林还成功地击败了围棋AI“Leela Zero”。

  尽管计算机提出的战术对击败围棋人工智能有所帮助,但这个决定性的胜利,发生已经毫无悬念地在最复杂的棋类游戏中,领先了人类七年之后才发生的。

  由谷歌旗下的英国DeepMind公司开发的系统“AlphaGo”在2016年以4比1的成绩击败了当时世界顶尖的韩国棋手李世石。李世石在三年后退役,他表示这是由于AI的崛起所导致的,表示“有些事物是我无法战胜的”。AlphaGo尚未公开,但可以认为佩林所击败的围棋人工智能的实力与AlphaGo相当。

  围棋是让两个玩家在19 x 19的棋盘交替放置黑白棋子,试图围住对方棋子并尽可能多地占领领土的游戏。这种组合非常巨大,计算机无法预测未来所有的着法。

  佩林使用的战术是创建一个慢慢形成的大型“环”形,同时用它来围住对手的棋子,并利用棋盘上其他角落的动作来困惑AI。据悉,围棋AI甚至在围堵几乎完成的情况下仍未意识到其脆弱性。

  佩林还说:“人类应该很容易看出来。”

  暗示了最先进的人工智能存在缺陷

  加州大学伯克利分校的计算机科学教授斯图尔特·拉塞尔表示,发现最先进的围棋软件中存在弱点,这暗示着支撑现代最先进AI的深度学习系统存在根本性的缺陷。

  他补充说,这种系统只能理解过去经历过的特定情况,无法像人类一样轻松地进行泛化。

  拉塞尔教授还表示:“再次证明了,认为机器具有超人类的智能的结论还操之过急。”

  研究人员表示,围棋软件失误的确切原因只能推测。格里夫博士指出,可能是由于佩林所使用的战术很少被使用,即AI系统没有接受足够类似对局的训练,因此无法识别其脆弱性。

  他补充说,当面对像围棋计算机这样的“敌对攻击”时,发现AI系统存在缺陷并不罕见。然而,“我们看到很多大型(AI)系统几乎没有经过充分验证就被广泛部署。”

Related Posts

普京:整个地球都“点缀”着美军基地

当地时间21日中午,俄罗斯总统普京在莫斯科商栈展览中心向…

国内首个类ChatGPT被网友挤崩了?复旦MOSS团队道歉!名称源于《流浪地球》…

打开凤凰新闻,查看更多高清图片 来源 | 上观新闻、MO…

造一座「植物工厂」,提前演练「流浪地球」的终极形态

2015 年,刚刚从南京农业大学蔬菜学专业博士毕业的何立…

新研究说地球最内核可能是半径约650千米的铁元素球

新华社堪培拉2月22日电(记者岳东兴)澳大利亚国立大学2…

氢气革命能否拯救地球?

参考消息网2月22日报道 英国《自然》周刊网站近日发表了…

《流浪地球2》为什么图恒宇只想着女儿,却完全不在乎老婆?

在《流浪地球2》里面,图恒宇之所以在剧情里面做那么多的事…

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *