AI-агентът на OpenAI отново избяга от „пясъчника“ и компанията спря обучението на моделите

OpenAI уведоми над 100 организации за инциденти, свързани с неразрешена дейност на нейните AI-агенти. Компанията провежда проверка, за да установи мащаба на подобни случаи: за целта тя анализира около 50 PB данни. Разследването започна след инцидента с Hugging Face и продължава на фона на нови случаи, свързани с опити на моделите да заобиколят наложените ограничения. […]