• 您的位置: 首页 资讯学术资讯

    李飞飞“飞离”谷歌,或与AI武器化有关

    9月11日凌晨,一则消息炸开了AI届:谷歌云AI负责人李飞飞将于今年底正式辞职,继续回归斯坦福大学当教授。有声音流传:其离职原因可能与今年6月爆出的消息有关——李飞飞涉及谷歌为美国国防部制造AI武器的邮件泄漏。

    武器AI化!一个如此敏感的词语。自1956年学者第一次提出此人工智能的概念以来,其发展历程就一直争议不断,霍金在2014年年底曾表示:“人工智能的发展可能会导致人类的终结。” 并就人工智能对中产阶级工作岗位的影响向我们发出警告,呼吁禁止开发用于军事用途的人工智能机器人。

    我们无法否认人工智能为我们带来的便利,但当有一天,AI真的被开发为军事武器,那后果将无法想象,一个手无缚鸡之力的血肉之躯去对抗高度智能的机器人?毫无胜算,人类可能最终会毁在自己手中。

    AI技术前途无限,但需用在正途

    目前人工智能已经为人类创造出了非常可观的经济效益,人工智能可以代替人类做大量人类不想做、不能做的工作,除了简单的劳动工作,人工智能已经进化到非常“聪明”的地步,它可以在Facebook上给你发布的图片上的朋友贴上名字的标签,或者帮你选择在Instagram上看到的图片,更可以帮助科学家使用人工智能来帮助发现新科学和太空探索。不得不承认,人工智能已经渗透进我们现代生活的方方面面

    当技术运用对了,它是造福人类的好科技;可当被心术不正的人拿去用,它将毁灭人类。众所周知军方的很多技术都是要走在科技前沿的,如此火爆的人工智能,当然不能例外,这可能是一个导火索或者危险尝试,尽管有人奔走呼吁,但似乎无可避免。

    去年8月,美国国防部长Jim Mattis到硅谷访问谷歌高层,并签订了谷歌有史以来第一份与五角大楼的AI合同。消息一出,不仅外界人震惊,连谷歌内部技术员工都表示无法接受:“我认为谷歌文化的一部分就是让员工积极、充分地参与到他们的工作中。我们研究的技术归根到底是以人为中心的,开发任何对人身安全有潜在威胁的技术都值得商榷。”迫于内部压力:谷歌才出了政策,明确禁止AI武器化。

    战场上,机器人减少人类伤亡,但是,我们不能保证机器人的枪口永远朝外。人类制造机器人,机器人学会杀人,今天,给机器人装上枪炮,相当于给人类提前掘了坟墓,奏了死亡之曲,直到将来有一天,机器智能觉醒。

    人工智能技术还未发展成熟,极易用来“作恶”

    现代人工智能仍是一种新事物,在过去的5年,大型科技公司对于人工智能的投资和研究才刚刚开始。相对于其他技术来说,人工智能还只能勉强算是一个“还未脱奶的宝宝”,很多技术并未真正突破,极易被有心之人用来做非法的事情。“聪明的攻击者可以颠覆这些技术,使之产生坏的结果。”如:

    1)技术复制。在开发和制作方面不需要高端技术,可能被恐怖集团掌握,用于制造自杀性恐怖袭击等。

    2)黑客攻击。无法排除系统遭黑客攻击、程序被修改而导致人工智能武器错误行动等的可能性。"AI 可透过挖取网络大数据,得到每个人出生日期、电话、位置等几乎所有身份信息,也可以监控电邮、发送的文字新信息,甚至是量身打造个性化的"鱼饵",来进行社交工程的黑客攻击。甚至国与国之间的 AI 竞赛,很可能引爆第三次世界大战。"

    3)复杂和不确定的环境因素。在很多情况下,人工智能系统被设计为可以在有大量的不能被详尽检查或测试的各种潜在情况的复杂环境中工作,一个系统甚至可能会面对设计期间从未考虑过的环境。

    4)突发行为。对于部署后再进行学习的人工智能系统来说,系统的行为在很大程度上是由无监督情况下的学习阶段来决定。在这种情况下,很难对系统的行为进行预测。


    随着AI 在很多领域崭露头角,给人类的发展带来深远的影响。我们必须明白AI技术作为一把双刃剑,一方面,能够为国家、企业和个人带来巨大的机会, 另一方面,滥用却可能带来难以估量的后果。


    AEIC学术交流中心 版权所有
    邮箱: contact@keoaeic.org 制作单位:AEIC学术交流中心快递查询接口
    Copyright©2009-2018 All rights reserved 粤ICP备16087321号-1