The Los Angeles Times сообщает, что Армия обороны Израиля развертывает систему таргетирования с ИИ, которая, по мнению экспертов, не может надежно отличать боевиков от гражданских лиц, генерируя ложные срабатывания в смертоносных масштабах.
Система собирает данные из метаданных телефонов, распознавания лиц, потоков с дронов, отслеживания SIM-карт и социальных сетей через Maven от Palantir.
Профили целей создаются за считанные секунды — задача, которая ранее требовала участия сотен аналитиков.
Фатальный недостаток заключается в том, что система выявляет поведенческие паттерны, а не прямые доказательства боевых действий. Родственники, финансисты и администраторы помечаются, потому что их модели общения напоминают таковые у боевиков.
Не проводится никакой проверки человеком; ИИ просто сопоставляет паттерны. Некачественные данные приводят к повторяющимся смертоносным ошибкам в крупных масштабах. И никто не ставит под сомнение результаты.
Алгоритм убивает — идеально подходит для мечты Армии обороны Израиля об автоматизированных военных преступлениях.
Телеграм: t.me/antimaydaninfo
Источник: vk.com
