GPT-4引發擔憂，馬斯克等千名科技人士呼吁暫停更強AI開發

IT之家 3 月 29 日消息，美國 OpenAI 公司的人工智能對話模型 ChatGPT 引發全球關注，該公司的核心投資方微軟開始評估其背后的最新模型 GPT-4 對未來人類的影響。GPT-4 是一個可以生成類似于人類語言的大型多模態模型，它在各種專業和學術的標準測試中表現出了人類水平的性能，例如它可以通過模擬律師資格考試，并且得分在前 10% 之內。

然而，GPT-4 也存在一些潛在的風險，可能會對社會和人類造成不利的影響。特斯拉創始人埃隆?馬斯克和一千多名人工智能專家和行業高管在一封公開信中呼吁暫停開發比 GPT-4 更強大的系統六個月，直到制定并實施一套共享的安全協議，并由獨立專家進行審計。他們還提到了高級人工智能系統可能導致的經濟和政治動蕩，并呼吁開發者與政策制定者合作建立監管機構。

這封信由非營利性的“生命未來研究所”發布，包括馬斯克、蘋果公司聯合創始人史蒂夫-沃茲尼亞克和 Stability AI 首席執行官埃馬德-莫斯塔克在內的 1000 多人簽署。

信中說：“只有當我們確信強大的人工智能系統的效果是積極的，其風險是可控的，才應該開發。”

此外，歐盟警察局歐洲刑警組織也在周一發出了對高級人工智能如 ChatGPT 的道德和法律擔憂，警告說這種系統可能被濫用于網絡釣魚、虛假信息和網絡犯罪等方面。自從去年發布以來，微軟支持的 OpenAI 的 ChatGPT 已經促使競爭對手推出了類似的產品，并且許多公司也將其或類似的技術集成到了他們的應用和產品中。

據IT之家了解，OpenAI 此前表示，他們已經花了六個月的時間對 GPT-4 進行了迭代調整，使其在事實性、可控性和拒絕超出安全范圍方面取得了最好的結果（盡管還不完美）。