Милитаризация систем искусственного интеллекта: возможности и угрозы

Исследование посвящено осмыслению возможностей и рисков применения искусственного интеллекта в военном деле. Отмечено, что в настоящее время, когда в мире существенно возросла значимость фактора военной силы, технологии искусственного интеллекта рассматриваются в качестве одного из базовых инструментов укрепления потенциала милитаризации. Наряду с другими прорывными новшествами такие системы обретают приоритет в деле создания перспективных образцов вооружения, военной и специальной техники. Условия нарастающей напряженности современного противостояния государств стимулируют беспрецедентное увеличение темпов научно-технических разработок «интеллектуального» оружия, его серийного промышленного производства, испытаний и применения на поле боя. Развитие технологий искусственного интеллекта активно приближает принципиальную трансформацию научно-технической оснащенности оборонной сферы и ведет к возникновению новых тенденций в развитии военного искусства. Анализируя феномен непрозрачности искусственного интеллекта, автор отмечает, что превращение этих систем в подобие черных ящиков значительно затрудняет понимание принципов, алгоритмов, последовательности действий, на основе которых осуществляется принятие заключений, решений и т.п. Такая ситуация влечет за собой невозможность должного контроля адекватности данных, полученных с помощью этих систем, и тем более «автоматического» доверия им. Эти обстоятельства увеличивают потенциальные риски, поскольку применение вооружения, оснащенного платформами искусственного интеллекта, существенно сокращает возможности оператора контролировать ситуацию в районе ведения боевых действий, минимизируя время на осмысление обстановки и принятие стратегического решения. Подобные разработки могут послужить мощнейшим катализатором наступления эпохи следующего технологического уклада, где главным ориентиром провозглашается создание систем сильного (общего) искусственного интеллекта. Главная угроза перехода от роботизации к интеллектуализации вооружений и боевой техники состоит в отстранении человека от принятия решений. В работе отмечается, что вооружение, снабженное искусственным интеллектом, является более опасным в сравнении с традиционными средствами ведения войны из-за скорости и элементов непредсказуемости. С точки зрения автора, выход за рамки четко понимаемых и заданных алгоритмов - это опасность, которую нельзя игнорировать. Цена ошибки, допущенной вследствие неадекватно принятого цифровым сервисом решения, может оказаться неприемлемо высокой.