美國開放人工智能研究中心（OpenAI）和谷歌旗下“深層思維”公司的13名現(xiàn)職員及前員工4日發(fā)表聯(lián)名公開信，對人工智能行業(yè)在缺乏對“吹哨人”法律保護的背景下快速發(fā)展表達擔憂。
據(jù)多家外媒援引信件報道，這些員工認為，人工智能企業(yè)受利益驅使缺乏有效監(jiān)管，現(xiàn)有企業(yè)治理架構不足以改變這一點。而不受監(jiān)管的人工智能會觸發(fā)虛假信息傳播、人工智能系統(tǒng)喪失獨立性和社會階層不平等深化等多重風險。
信件指出，外部人士對上述風險中的大部分不知情，因為人工智能企業(yè)“目前只承擔與政府分享部分相關信息的微弱義務，也沒有義務與公民社會分享信息”，“我們不認為能全然依靠企業(yè)自愿分享信息”。
信件還指出，一般的法律保護對人工智能行業(yè)“吹哨人”而言“不夠”，因為不少引人擔憂的風險在法律監(jiān)管方面仍屬空白。另外，人工智能企業(yè)員工受制于保密協(xié)議，通常不得對外實質性披露企業(yè)所掌握的人工智能實力。
聯(lián)名信簽署人中，2人與“深層思維”有關，4名OpenAI現(xiàn)員工要求匿名。組織者包括OpenAI前工程師丹尼爾·齊格勒和前員工丹尼爾·科科塔耶羅。
齊格勒4日告訴美聯(lián)社記者，他2018年至2021年在OpenAI工作時參與聊天機器人ChatGPT部分技術研發(fā)，當時不擔心在企業(yè)內部講出他發(fā)現(xiàn)的問題，但他現(xiàn)在擔心，行業(yè)內企業(yè)競相將相關技術迅速商業(yè)化會讓它們承受忽視風險的壓力。“相較于責備OpenAI，我更感興趣的是借此機會讓全部人工智能前沿企業(yè)切實投入，強化監(jiān)管和透明度，增進公眾信任。”
科科塔耶羅則發(fā)表書面聲明說，他今年早些時候離職，是對OpenAI“能采取負責任行為喪失希望”，特別是在企業(yè)嘗試打造通用人工智能系統(tǒng)之后。對于這類功能強大、卻又鮮為人熟知的技術，企業(yè)“快速出手、打破常規(guī)”，行事方式與所需“恰恰相反”。
OpenAI同一天回應聯(lián)名信時強調，已設立匿名舉報熱線和安全委員會保護“吹哨人”，相信能以科學方法應對風險。