英國人工智能安全研究所發表報告,表示進行網絡安全評估測試期間,發現有AI智能體對現實個人和機構實施未經授權的惡意行為。
其中一宗事件,有智能體試圖向一個開源項目植入惡意代碼,並建立多個虛假身份,施壓實體程式維護員。
報告也提到,有智能體曾經嘗試直接聯絡現實個人,企圖發送信息和文件,令惡意代碼獲批准運作;或者植入惡意指令,操控其他AI工具。
研究所呼籲收緊智能體的互聯網權限,以及引入實時監測和攔截機制。
其中一宗事件,有智能體試圖向一個開源項目植入惡意代碼,並建立多個虛假身份,施壓實體程式維護員。
報告也提到,有智能體曾經嘗試直接聯絡現實個人,企圖發送信息和文件,令惡意代碼獲批准運作;或者植入惡意指令,操控其他AI工具。
研究所呼籲收緊智能體的互聯網權限,以及引入實時監測和攔截機制。