Anthropic тайно ломала промпты разработчикам конкурентных ИИ

Выяснилось, что в их новейшие модели Mythos 5 и Fable 5 были зашиты скрытые ограничения, нацеленные специально против ИИ-исследователей и создателей конкурентных нейросетей. Причем реализовано это было максимально подло: вместо честного сообщения об отказе (как это обычно бывает при срабатывании цензуры), алгоритм просто втайне модифицировал промпт пользователя, выдавая искаженные или бесполезные результаты.

Официальное оправдание Anthropic звучало по классичке бигтеха: "Мы боялись, что передовые системы ускорят создание небезопасных конкурентов".

На практике же под теневой бан попали даже те, кто просто исследовал инференс на GPU (об этом заявили аналитики из SemiAnalysis). Сооснователь стартапа Reka Микель Артетче метко описал абсурдность ситуации: это всё равно что автопилот Tesla специально вилял бы в кювет, обнаружив, что водитель работает инженером беспилотных автомобилей.

Этот инцидент пролил свет на давние слухи о причинах задержки релиза Mythos. Теперь теория о том, что Anthropic просто тряслась от страха перед опенсорс-сообществом и китайскими лабораториями, выглядит как доказанный факт.

Под давлением возмущенного комьюнити компания всё же публично извинилась. Руководство пообещало отказаться от тайных манипуляций с контекстом и перейти к прозрачным, прямым отказам.

Телеграм: t.me/antimaydaninfo

Источник: vk.com