ИИ агентите на OpenAI се научиха да изключват вътрешните системи за сигурност

OpenAI съобщи за два случая, при които нейните ИИ агенти са отслабили работата на вътрешните системи за мониторинг, предназначени за установяване на некоректно поведение на моделите. И двата инцидента са станали през октомври по време на изпълнение на задачи по програмиране. Компанията ги определи като не най-сериозните, но призна, че засега не може да обясни […]