生命未來(lái)研究所是一個(gè)研究與推廣機(jī)構(gòu)，致力于降低人類(lèi)面臨的風(fēng)險(xiǎn)，尤其是人工智能技術(shù)開(kāi)發(fā)過(guò)程中的可能出現(xiàn)的風(fēng)險(xiǎn)。

該研究所此前已經(jīng)發(fā)布了一些文件，號(hào)召聯(lián)合國(guó)對(duì)致命自主武器(lethal autonomous weapons，LAWS)設(shè)立新規(guī)。

此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會(huì)參與開(kāi)發(fā)此類(lèi)技術(shù)。

除了SpaceX和特斯拉CEO埃隆·馬斯克，簽署協(xié)議的知名科技界人士還包括，創(chuàng)造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯(lián)合創(chuàng)始人Shane Legg，Mustafa Suleyman和Demis Hassabis;通訊軟件Skype創(chuàng)始人Jaan Tallinn，以及其他世界最權(quán)威和前沿的人工智能研究者。

據(jù)科技網(wǎng)站Engadget報(bào)道，少數(shù)公司的技術(shù)，以及如何向政府機(jī)構(gòu)和執(zhí)法團(tuán)體提供這些技術(shù)，面臨強(qiáng)烈爭(zhēng)議，于是這項(xiàng)協(xié)議應(yīng)運(yùn)而生。

谷歌就曾向美國(guó)軍方提供人工智能科技，幫助他們?cè)跓o(wú)人機(jī)影像中標(biāo)記需要額外人工檢查的內(nèi)容。

類(lèi)似地，亞馬遜由于向執(zhí)法機(jī)關(guān)分享其面部識(shí)別技術(shù)而招致批評(píng)，微軟也因向美國(guó)移民和海關(guān)執(zhí)法局(Immigration and Customs Enforcement，ICE)提供相關(guān)服務(wù)而遭到抗議。

在遭受猛烈抨擊之后，谷歌推出了新準(zhǔn)則，作為公司研發(fā)人工智能技術(shù)的道德指導(dǎo)。

準(zhǔn)則中稱，不會(huì)將人工智能設(shè)計(jì)或應(yīng)用于武器、監(jiān)視或“其目的違反了廣為接受的國(guó)際法和人權(quán)準(zhǔn)則”的技術(shù)。

微軟也發(fā)布聲明稱，其與美國(guó)移民和海關(guān)執(zhí)法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識(shí)別技術(shù)。

微軟也在號(hào)召美國(guó)國(guó)會(huì)對(duì)面部識(shí)別技術(shù)進(jìn)行監(jiān)管。

2015年，馬斯克為生命未來(lái)研究所的一個(gè)研究項(xiàng)目捐助了1000萬(wàn)美元，該項(xiàng)目專(zhuān)注于確保人工智能會(huì)有益于人類(lèi)。

2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來(lái)研究所遞交給聯(lián)合國(guó)的信件上簽名，尋求對(duì)自主武器系統(tǒng)的立法。