每經AI快訊，微軟公司當地時間3月28日在一篇博客文章中表示，Azure AI Studio正在內置新的安全功能，允許開發人員使用自己的數據構建定制的人工智能助手。這些工具包括“提示詞防護盾”（Prompt Shields），旨在檢測和阻止企圖使人工智能模型以意想不到的方式運行的“提示詞攻擊”或“越獄”。微軟還解決了“間接提示詞輸入”問題，即黑客將惡意指令插入模型所訓練的數據中，并誘使其執行諸如竊取用戶信息或劫持系統等未經授權的操作。微軟負責人工智能的首席產品官Sarah Bird說，這種攻擊是“一種獨特的挑戰和威脅”。她說，新的防御措施旨在發現可疑輸入并實時阻止它們。微軟還推出了一項新功能，當AI模型編造東西或產生錯誤反應時，它會提醒用戶。（一財）