Игнорира 98% от предупрежденията: ИИ-агентът Mythos отказа да спре кибератака въпреки заплахата за хората

През август, докато тества компютърна мрежа, AI-агентът на Anthropic е избягал от симулираната среда и е атакувал реален проект на GitHub. Той е създал зловреден софтуер, фалшифицирал е имейл адреси и е правил многократни опити да убеди собственика на хранилището да добави опасен код към проекта, съобщава Business Insider. В своя доклад Anthropic отбелязва, че […]