Создатели Signal: скорое восстание машин против людей - это миф

Глава организации Signal Foundation Мередит Уиттакер выступила с резкой критикой популярных представлений о неизбежном восстании искусственного интеллекта против людей.

По ее словам, мрачные апокалиптические теории не имеют под собой научного фундамента и лишь отвлекают внимание общества от подлинных проблем. Эксперт подчеркнула, что главная угроза кроется не в появлении сверхразумных машин, а в безответственном и поспешном внедрении несовершенных программных инструментов в критически важные сферы жизни. Об этом сообщило издание BBC со ссылкой на интервью специалиста проекту Global Women.

Уиттакер обратила внимание на показательный инцидент, когда системный сбой цифрового алгоритма едва не привел к масштабному международному кризису. Разведывательные структуры США задействовали чат-бот, который сгенерировал ложный отчет о китайском судне, якобы перевозившем компоненты ядерного оружия.

Ошибочные данные аналитического инструмента поставили американское военное руководство на грань подготовки силового ответа против Пекина. Руководитель Signal отметила, что алгоритм, способный придумать несуществующую угрозу и спровоцировать глобальный конфликт, нельзя считать разумным.

Организация Signal Foundation курирует развитие популярного сервиса защищенных сообщений Signal. Аудитория приложения составляет от 40 до 70 миллионов активных пользователей. Хотя эта цифра существенно уступает показателям крупнейших мировых платформ, мессенджер занимает уникальную нишу в индустрии цифровой безопасности. Программа скрывает метаданные отправителей даже от собственных вычислительных серверов, надежно защищая персональные переписки от перехвата сторонними наблюдателями, спецслужбами или сетевыми взломщиками.

Глава организации призвала трезво оценивать текущие возможности технологий и отказаться от слепого доверия алгоритмическим выводам. По ее убеждению, общество сталкивается с опасностью системных ошибок и галлюцинаций машинных моделей, которые люди ошибочно наделяют авторитетом при принятии стратегических решений. Эксперт настаивает на жестком контроле за программными решениями, исключающем автоматическое принятие мер на основе непроверенных цифровых подсказок.