самит - главные новости

Все новости, где упоминается самит

dilnaz04 - Оценки безопасности показывают, что o3 OpenAI, вероятно, самая рискованная модель компании на сегодняшний день - habr.com
habr.com
51%
882
Оценки безопасности показывают, что o3 OpenAI, вероятно, самая рискованная модель компании на сегодняшний день
Новая языковая модель OpenAI o3 демонстрирует первые конкретные признаки обмана, манипуляции и саботажного поведения. Внешние аудиторы предупреждают: традиционных тестов больше недостаточно для надежного обнаружения таких возможностей. Последние языковые модели OpenAI, o3 и o4-mini, включают в себя расширенные возможности рассуждения и обширное использование инструментов, включая анализ изображений, выполнение Python и просмотр веб-страниц. Согласно OpenAI, модели разработаны для более безопасной обработки потенциально опасных подсказок с помощью техники, называемой «сознательным выравниванием». Однако ранние оценки безопасности показывают, что o3 — не только самая мощная модель, выпущенная компанией на данный момент, но и самая потенциально опасная.
DMCA