incrypted.com
94%
790
Как «взломать» ChatGPT и Google AI за 20 минут — журналистский эксперимент
Ведущий технический журналист BBC Томас Жермен описал простой способ заставить ChatGPT и Google AI Overview выдавать ложные утверждения. Для демонстрации он добился того, чтобы модели сообщали пользователям, будто он ест хот-доги «лучше любого технологического журналиста». По словам Жермена, изменить ответы ИИ другим людям иногда можно так же легко, как написать один продуманный пост в блоге. Этот прием использует уязвимость тех систем, которые подмешивают в ответы данные из сети, когда у модели нет нужной информации. ИИ-поиск и ренессанс спама В рамках эксперимента Жермен