ChatGPT, text, information: critical analysis

Texto integral

В последние годы мы с большим интересом, а порою с обеспокоенностью, наблюдаем за развитием технологий искусственного интеллекта. 2023 г. больше всего, пожалуй, запомнится нам волнениями, связанными с ChatGPT-4. Чего только не происходило в прошлом году в связи с использованием этого программного обеспечения! То студент сдаст выпускную квалификационную работу, написанную чат-ботом, как свою (см., например, [1]; также по этой теме см. [2]), то фанаты решат продолжить фантастическую эпопею вместо ее автора-писателя (см., например, [3]), то ученый заявит в интервью, что «новые инструменты искусственного интеллекта… угрожают выживанию человеческой цивилизации» [4]. Пожалуй, не будет преувеличением сказать, что появление ChatGPT перевернуло нашу жизнь в очередной раз (причем есть ощущение, что этот раз далеко не последний).

Многие пользователи начали экспериментировать и пытаются освоить новый «сорт» искусственного интеллекта. Появились даже курсы и тренинги, на которых обещают научить пользоваться ChatGPT тех, кто не справился сам. В результате экспериментов выяснилось, что ликование (не у всех, кое у кого — ужас) от того, что больше не нужен человек, чтобы состряпать текст на заданную тему, сменилось разочарованием и претензиями то ли к самому искусственному интеллекту, то ли к компании, выпустившей этот продукт на рынок.

Так, коллеги весь год делились по большей части негативными впечатлениями от использования чат-бота и обсуждали проблему выдуманных научных статей, которые никто никогда не публиковал (а в среде юристов также обсуждались выдуманные нейросетью судебные споры). Вот как, например, исследователь Сон Гон Ким описывает свой опыт взаимодействия с ChatGPT: «Я отправил несколько вопросов в ChatGPT … он ответил … я снова спросил: “Есть ли какие-либо ссылки по этой теме?” … он ответил: “Да, … Вот несколько примеров…”. Я проверил, настоящие эти ссылки или поддельные. К сожалению, все ссылки являются поддельными, включая поддельных авторов» [5]. Другие авторы также «столкнулись с тенденцией ChatGPT измышлять факты (феномен галлюцинирования). …Бот сочинял несуществующие цитаты и неточно передавал информацию» [6].

Когда обнаружился такой, мягко говоря, недостаток работы чат-ботов, были предприняты некоторые меры по его нивелированию, но об этом подробнее будет сказано ниже.

Как бы то ни было, способность искусственного интеллекта генерировать связные тексты произвела настолько ошеломляющее впечатление на людей, что возникли представления о способности его также и к анализу текстовой информации. Так, в медицинских кругах проводятся исследования, направленные на определение возможностей использовать чат-бот в диагностике заболеваний. Результаты не слишком удовлетворительные. Например, известно, что «GPT-4 правильно диагностировал только 39% сложных медицинских случаев как у взрослых, так и у детей» [7] (см. также: [8]). Более ранней версии «чат-бот с искусственным интеллектом, работающий на языковой модели под названием GPT-3.5 от OpenAI, не смог правильно диагностировать 83% педиатрических случаев, которые исследовал» [7]. В совокупности «ChatGPT предоставил неправильные диагнозы для 72 из 100 случаев, при этом 11 из 100 результатов были классифицированы как “клинически связанные, но слишком общие, чтобы считаться правильным диагнозом”» [там же].

Тем не менее желание приспособить чат-бот для целей медицины не угасает. В феврале этого года произвела фурор новость об обученном на медицинской литературе GigaChat (аналоге ChatGPT от Сбера), который «сдал» экзамен по направлению подготовки «Лечебное дело» на четыре балла (см., например, [9–11]. Как упоминается в новостных сообщениях об этом событии, и «обучение» искусственного интеллекта, и проверку его способностей проводил Национальный медицинский исследовательский центр им. В.А. Алмазова, что само по себе наводит на определенные мысли (и вызывает вопрос, почему в таких условиях чат-бот сдал экзамен всего на четыре балла, а не на пять с плюсом). Но дело даже не в самом чат-боте и не в нюансах организации проекта. К этой истории мы также вернемся далее.

Журналисты и блогеры не остались в стороне и тоже бросились осваивать ChatGPT. Информационное поле наводнили фейки и курьезы. Примером может служить занятная статейка о последних по состоянию на 2023 г. планах по строительству метро в подмосковной Балашихе [12]. Бесконечно длинная и настолько же бессодержательная заметка полна нелепостей: начиная от знаменитого района Балашихи под названием «Уралмаш» и заканчивая откровением о том, что «в преддверии проведения чемпионата мира по футболу в Балашихе город активно работает над организацией метро для обеспечения удобства перемещения болельщиков и жителей города. В рамках подготовки к чемпионату мира город решил расширить сеть метро» [там же] (в Балашихе метро нет и не было, как и чемпионата мира по футболу. — Авт .).

Несмотря на уже всеми, кажется, признанные недостатки текстов от искусственного интеллекта («водянистость», нехватка фактуры, отсутствие эмоционального окраса и смыслов [13], некорректные данные и ошибки [14]), в медиаиндустрии встречается мнение, будто ошибки возникают из-за того, что нейросети «были обучены на неправильных базах данных» [там же], и чат-боты все-таки могут применяться в целях автоматической генерации контента для финансовых новостей, в которых много цифр и фактических данных [там же].

Однако как раз с фактическими данными и возникает главная сложность, что отлично видно на приведенном выше примере. Уже упоминавшийся Сон Гон Ким, в частности, не считает возможным доверять данным от искусственного интеллекта: «…любые новые идеи, сгенерированные ChatGPT, должны быть подтверждены… а результаты должны быть проверены людьми… ChatGPT потенциально может генерировать ложную информацию, поэтому авторам-людям важно тщательно просмотреть и подтвердить информацию, сгенерированную ChatGPT, прежде чем включать ее в свои статьи» [5].

По поводу недостоверности данных, включаемых ChatGPT в свои тексты, высказался также академик А.Р. Хохлов: «Не стоит обвинять в этом нейронную сеть, просто она так работает. Она выдает наиболее вероятный, а вовсе не правильный ответ. Причем наиболее вероятный, исходя из загруженной в нее информации» [15]. Невозможно не согласиться с Алексеем Ремовичем. Будучи человеком с физико-математическим образованием, он обозначил самую суть принципа работы этого программного обеспечения.

Итак, что же такое ChatGPT (кроме того, что он — искусственный интеллект и нейросеть)? ChatGPT относится к семейству больших языковых моделей (Large Language Models, LLM)¹. У всех LLM общий принцип работы, и этот принцип заключается в том, что они (как невероятно!) не пишут тексты и уж тем более не анализируют и не делают умозаключений. LLM, и ChatGPT в том числе, составляют цепочку из слов . По сути, мы все уже давно знакомы с этим механизмом: Т9 в смартфоне тоже составляет цепочку из более или менее подходящих, как ему кажется, слов. LLM (ChatGPT) — это более совершенный и эффективный Т9. Главная задача чат-бота — продолжить предоставленный пользователем текст на одно следующее слово, а затем продолжить получившийся текст еще на одно слово, затем снова продолжить еще на одно слово и так далее. Как показали эксперименты, наиболее правдоподобные и «читабельные» тексты получаются, если нейросеть настроена продолжать текст не теми словами, которые наиболее часто употребляются после последнего введенного слова, а словами, частота употребления которых следом за «отправным» словом, составляет около 80%.

Замечу, что LLM не понимают значения слов: «…внутри ChatGPT любой фрагмент текста фактически представлен массивом чисел, которые мы можем рассматривать как координаты точки в некоем “пространстве лингвистических признаков”. Таким образом, когда ChatGPT продолжает фрагмент текста, это соответствует прослеживанию траектории в пространстве лингвистических признаков» [16]. Естественно, LLM не понимают и значений получающихся текстов. Они выставляют слова по порядку (в соответствии с заложенным в них алгоритмом), но не оценивают смысл, содержание текста и не проверяют достоверность получившихся «данных». Большие языковые модели (как, впрочем, и искусственный интеллект других типов) не знают ничего о мире, они «видят» только предоставленные им для «обучения» тексты, а точнее — знают частоту употребления в этих текстах слов рядом друг с другом.

Есть еще одно важное обстоятельство. LLM обычно запрограммированы на постоянное «дообучение», то есть, взаимодействуя с пользователем или получая доступ к новым текстам в интернете, нейросеть как бы развивает себя. Другими словами, нет какого-то канонического набора текстов, на которые ориентируется языковая модель, она берет в работу все, что попадается «под руку».

Более подробно об устройстве и принципах работы больших языковых моделей можно узнать, например, из [16, 17, 18].

Позволю себе лирическое отступление. Стивен Вольфрам, британский физик, математик и программист, высоко оценивает тексты, генерируемые нейросетями (ChatGPT, в частности): «То, что ChatGPT делает при генерации текста, очень впечатляет — и результаты обычно очень похожи на те, которые получаем мы, люди» [16]. Однако русскоязычные тексты от нейросетей весьма слабы, неинтересны, они «пресные» — сразу видно, что писал их не человек.

Обычно считается, что, раз нейросети разрабатываются по большей части в англоязычных странах, они обучены в основном на текстах, написанных на английском языке, и поэтому лучше им «владеют». Но, не исключено, что объяснение кроется в особенностях самих языков — английского и русского. Возможно, английский как более алгоритмизированный язык, относящийся к группе аналитических языков, лучше поддается «освоению» искусственным интеллектом, чем более стихийный русский, относящийся к группе синтетических языков.

Кроме того, Стивен Вольфрам [16] делает весьма и весьма интересные умозаключения о той роли, которую может сыграть ChatGPT в деле познания законов человеческого мышления и развития человеческого языка, являясь как бы отражением математических закономерностей, существующих в языке, но не обнаруженных пока самими людьми.

Итак, если понять, как устроен и работает ChatGPT, то покажутся странными удивление и возмущение со стороны пользователей из-за того, что нейросеть выдает ложные данные. И еще более странными выглядят надежды на то, что LLM могут что-либо анализировать.

Вероятно, слишком завышенные ожидания от чат-бота возникли из-за того, что изначально кто-то преподнес LLM как программу, способную создавать тексты, подобно человеку. Возможно, в контексте, в котором это было сказано, было совершенно понятно, что именно представляют собой большие языковые модели. Но «мысль изреченная есть ложь» [19], и вырванная из контекста, эта фраза породила неоправдавшиеся надежды.

А ведь никто и не обещал, что чат-бот будет генерировать тексты, содержащие хоть какую-то мысль. Генерация текста ≠ умозаключение. Откуда возьмется мысль или новая идея, если текст — всего лишь достаточно шаблонный набор слов, буквально — общее место [20]? Стоит ли удивляться «водянистости» и «отсутствию смысла» [13]?

Очевидно, что специфическая бессмысленность текстов от чат-бота обусловлена технологией его работы. С другой стороны, людям не всегда нужен какой-либо смысл в тексте. Например, в поздравительных речах не требуется особого смысла. Шаблонные фразы вполне годятся. Вот, например, шутники собрали новогодние речи президента за несколько лет в один поздравительный видеоролик:

(президент появляется в «плиточке» того года, в котором он говорил звучащую в ролике фразу) [21]. Стали ли хуже новогодние поздравления от того, что они повторяются? Очевидно, что нет.

Далее. Никто не обещал, что в текстах от чат-бота будет правда. Если мы понимаем принцип его работы, будем ли мы удивляться, что сведения, сочиненные языковой моделью, не соответствуют действительности? Это ведь тоже следствие технологии.

Никто не обещал, что будет годный контент, который не надо проверять. Как минимум необходимо разбираться в теме, по которой заказал чат-боту текст, и прочитать этот самый текст перед публикацией или отправкой адресату.

Еще один немаловажный момент. В 2023 г. исследователи изучили тенденции саморазвития чат-бота. И — о чудо! — оказалось, что большие языковые модели, постоянно обновляющие базу текстов, со временем (довольно быстро) «тупеют». Этот эффект получил красочные названия: «отравление данными», «крах модели» [22]. Однако, если мы будем помнить о принципе работы и самообучения чат-бота, нам станет очевидно, что со временем «отупение» неизбежно. Как известно, «с кем поведешься, от того и наберешься», а доступные широкой публике языковые модели впитывают сведения и от самих себя (сгенерированные искусственным интеллектом и, как было показано выше, не блещущие качеством), и от пользователей, не все из которых отличаются умом и высокими моральными принципами.

Сама по себе технология больших языковых моделей остается принципиально неизменной, насколько можно судить по доступной информации (имеются сведения о новой технологии, которая потенциально может заменить LLM, но это не относится к предмету данной статьи). Отмеченные выше недостатки в работе чат-ботов нивелируются другими методами.

Так, для устранения проблемы галлюционирования применяется ряд решений (см. об этом [23]). Однако эта проблема все еще остается актуальной (см., например, [24]).

Для борьбы с «водянистостью», нехваткой фактуры и «отравлением данными» тоже нашелся метод — цензура данных для обучения. К примеру, как известно из приведенных выше новостей про GigaChat, его обучали не на всей подряд информации, имеющейся в интернете, без разбора, а только на специализированной медицинской литературе (причем не абы какой, а рекомендованной для обучения будущих врачей). Соответственно подцензурный чат-бот генерирует тексты, опираясь на «веса» слов и словосочетаний в массиве данных, предварительно отобранных разработчиком в соответствии со своей картиной мира. В случае медицины и научного медицинского центра это оправданно; но, как говорится, могут быть и другие варианты.

Теперь, после краткого рассмотрения принципа работы больших языковых моделей, настало время сравнить деятельность человека по написанию текста и деятельность нейросети.

Очевидно, что действия LLM совсем не похожи на то, как человек пишет тексты. Это принципиально другая деятельность. Человек, садясь за написание чего-либо, сначала формирует импульс, побуждающий его к этой процедуре, решает «организационные» вопросы: на какую тему он будет писать, в какой форме (письмо, роман, стихи и так далее), с помощью каких инструментов (на бумаге чернилами при свечах или на компьютере); у него в голове рождается мысль, и только после этого человек выражает, более или менее удачно, свою мысль в виде текста. Как бы спонтанно или, наоборот, после раздумий ни взялся живой человек за создание текста, ни при каких обстоятельствах даже самый отъявленный халтурщик от журналистики не станет рассчитывать частоту употребления последовательности слов и составлять слова в цепочку. Человеческий текст — это выраженные вовне эмоции, мысли, идеи (даже если этот человек мыслит штампами, а все его идеи бездарны), но не математические расчеты так называемых «весов».

Говорят, чувственный опыт — самый простой и надежный критерий истины. Поэтому, чтобы окончательно убедиться в том, что LLM составляет тексты не как человек , сыграйте в игру: выбирайте случайные слова (существительные, прилагательные, глаголы и так далее) из хорошей книги и собирайте их, одно за другим, в предложения. Текст получится не такой складный, как у чат-бота (что естественно, ведь у этой игры алгоритм гораздо более примитивный), но он получится! А игроки почувствуют на собственном опыте, насколько вся предыдущая их работа по написанию текстов не похожа на составление цепочек слов (то есть на работу языковой модели).

Также интересно поупражняться в составлении предложений из слов на незнакомом языке (например, китайском или японском, в которых каждый иероглиф, как известно, является целым словом). Если взять иероглифы, относящиеся к одной теме, то при известной доле удачи получится почти настоящий текст. Правда, вы, без знания языка, не поймете, что говорится в составленном вами тексте. Ну так и LLM не понимают смысла составленных предложений, им просто нечем (да и незачем).

И здесь мы подходим к весьма важному моменту. Согласно Национальной стратегии развития искусственного интеллекта, утвержденной Указом Президента Российской Федерации от 10 октября 2019 г. № 490 (ред. от 15 февраля 2024 г.) [25] (далее — Национальная стратегия), искусственный интеллект — это комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их, — комплекс, включающий в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе то, в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений.

Обратимся к толкованию терминов. Имитировать — значит воспроизводить с точностью, подражая кому-нибудь / чему-нибудь [26]. Когнитивные функции человека — это способность понимать, познавать, изучать, осознавать, воспринимать и перерабатывать (запоминать, передавать, использовать) внешнюю информацию [27].

Таким образом, под искусственным интеллектом мы должны понимать комплекс технологических решений, позволяющий воспроизводить с точностью, подражая человеку, способность человека понимать, познавать, изучать, осознавать, воспринимать и перерабатывать внешнюю информацию.

В 2019 г. действительно казалось (и, видимо, кажется до сих пор, раз при внесении изменений в Национальную стратегию определение искусственного интеллекта было слегка изменено, но не было улучшено), что искусственный интеллект имитирует деятельность человека. В те времена чат-ботов еще не было, а нейросети делали такие вещи, как определение объекта, изображенного на фотографии или в кадре видеозаписи, определение соответствия человека фотографии в документе, который этот человек предъявляет, например, в банке для удостоверения личности, считывание номера и тому подобное. Вроде бы это умственная деятельность (физическим трудом такую работу трудно назвать), но все-таки не самая интеллектуальная. Зачастую искусственный интеллект справляется с такими задачами лучше живых людей (хотя результаты бывают разные, в том числе абсолютно курьезные).

Однако, чем интеллектуальнее задача, тем более очевидно, что искусственный интеллект не имитирует работу человеческого мозга. Большие языковые модели осуществляют совершенно другую деятельность, ничем не похожую на человеческую, а вовсе не подражают человеку. Причем это утверждение справедливо не только для рассматриваемых здесь LLM, но и для других (хотя, может быть, и не всех) типов искусственного интеллекта (подробнее о некоторых из них см., например, [28, 29]).

Можно с определенными допущениями говорить об имитации результатов умственной деятельности человека, да и то — оценки текстов, составленных на разных языках, как было показано выше, существенно разнятся.

Таким образом, мы видим, что определение, данное искусственному интеллекту в Национальной стратегии, основополагающем российском документе об искусственном интеллекте, недостаточно корректно. Оно не соответствует как минимум некоторым типам искусственного интеллекта (в том числе весьма распространенным, таким как большие языковые модели и компьютерное зрение). Есть у этого определения и другие недостатки [28, с. 100].

Другая важная проблема, которую высветил искусственный интеллект, в частности история с GigaChat и экзаменом, касается нас всех как членов общества, но особенно она актуальна для университетов и преподавателей.

Как было показано выше, большие языковые модели не мыслят, ничего не анализируют, ничего не знают о нашем мире, они лишь рассчитывают «веса» и математические траектории и ставят объекты (которые для нас являются словами) в цепочку в соответствии с частотностью их присутствия в неких массивах (для нас являющихся текстами). Из того факта, что LLM справилась с ответами на экзаменационные вопросы, напрашивается следующий вывод: экзамен не проверяет способность студента к анализу и мышлению, понимание им темы, а проверяет только его способность вызубрить учебник и ответить близко к тексту (тут у LLM, естественно, большое преимущество). Если выпускнику мединститута не нужны понимание и умение думать, способен ли он лечить людей?

Вот, к примеру, один из экзаменационных вопросов: назначьте пациенту дополнительное обследование [9]. Из самого вопроса студенту уже понятно, что, во-первых, пациент действительно чем-то болеет, а во-вторых, что он недообследован. Дело за малым — назначить процедуры по методичке. А врачу на приеме кто должен подсказать, требуется тут допобследование или нет? Пациент? Или лечащий врач каждый раз к профессору будет за подсказками бегать: что с этим пациентом делать — план лечения составлять или обследовать дополнительно? А если к такому выпускнику на прием попадет здоровый человек, сможет врач его отличить от больного или начнет «лечить анализы»?

Как представляется, вопросы о том, что проверяет экзамен и чему в итоге научены студенты: умению работать по специальности или умению запоминать и пересказывать учебник, касаются не только медицинских учебных заведений, но и всех остальных (просто в них не проводили еще экспериментов с искусственным интеллектом и не хвастались успехами).

Наконец, рассмотрим еще один аспект, который обсуждается в связи с LLM: угроза дезинформации, исходящая от чат-ботов. Доктор Хинтон, которого часто называют крестным отцом искусственного интеллекта, высказал озабоченность в связи с тем, что «интернет будет наводнен фальшивыми фотографиями, видео и текстом, и обычный человек больше не сможет узнать, что является правдой» [30]. Так же считает и Евгений Соколов, специалист в области компьютерных наук и информатики: «Главная угроза лично мне видится в том, что ИИ будет дезинформировать людей и выдавать ложную информацию за истину» [17].

Эту же мысль более развернуто высказал израильский историк и философ Юваль Ноа Харари: «То, что мы обычно принимаем за реальность, часто оказывается просто вымыслом в нашем собственном сознании. … Если мы не будем осторожны (с разработкой и применением искусственного интеллекта. — Авт .), мы можем оказаться в ловушке за завесой иллюзий, от которой мы не сможем оторваться — или даже осознать, что она существует» [4].

Действительно, фейки, созданные при помощи ChatGPT, не заставили себя ждать. Уже в мае 2023 г. появились сообщения о задержании полицией Китая человека в связи с подозрением о распространении им в интернете ложных новостей о чрезвычайном происшествии (см., например, [31]). Однако журналисты без всякого чат-бота сами прекрасно справляются с дезинформацией: в частности, сочиняют «кликбейтные» новостные заголовки о том, что в Китае человека арестовали за использование ChatGPT (см., например, [32, 33]).

Дезинформация не является изобретением нейросетей. До появления искусственного интеллекта» дезинформация также существовала, и не просто существовала, а обеспечивала своим адептам славу, почет и даже Пулитцеровскую премию (правда, ненадолго). О нескольких таких случаях, происходивших с 1980-х по 2010-е годы, весьма занимательно рассказал Егор Воробьев [34].

Об этой же проблеме высказался и профессор В.Н. Снетков: «В журналистском творчестве существуют и такие негативные явления, как дифракции этических конвенций, что проявляется в несоответствии действительности публикуемых сведений, девиации установленного порядка их проверки, распространении слухов или версий под видом достоверных сообщений, а в некоторых случаях — в фальсификации общественно значимых фактов, в нарушении принципа полифоничности взглядов на проблему. Это девальвирует способность СМИ осуществлять социальную функцию, гарантировать важнейшее демократическое право граждан на получение достоверной информации» [35, с. 400–401].

Но по большому счету дело даже не в привирающих (иногда очень сильно) журналистах и уж тем более не в чат-ботах, сочиняющих «данные». Это все может быть оставлено на совести отдельных людей, выпустивших негодные тексты в свет.

Существуют более серьезные причины возникновения проблемы дезинформации: «Исследователи акцентируют внимание на отчуждении СМИ от аудитории массовым манипулированием, мифологизацией, мистификацией общественного сознания. Выстраивается жесткая зависимость: собственник — издание — общественное сознание. При уходе из-под контроля СМИ демонстрируют “анархическую независимость, самодостаточность и самовластие, умножая асоциальную прессу и телеканалы, серьезно угрожают свободе массовой информации и гражданским правам в обществе”… Независимость и непонимание в среде СМИ возникают из-за необъятного клубка и пересечения личных интересов, выгод, комплексов, пороков, планов, целей и т.п. … Ряд факторов — экономических, политических, социальных — искажают лицо современной прессы» [там же].

Хотелось бы обратить внимание на то, что все это было исследовано и отмечено еще в 2006 г., когда ни про какой искусственный интеллект среди журналистов никто и не слышал. Да и в более ранние времена существовала проблема качества и достоверности информации. Вот, например, краткая, но емкая характеристика европейских СМИ середины XIX в.: «…характерной особенностью тогдашнего времени была глубокая деморализация прессы. … Никогда еще не замечалось столь полной и упорной системы подкупа всех органов (прессы. — Авт .) большой страны (Франции). Не иначе дело обстоит в Германии. Большинство газет находится в услужении у банков» [36, с. 121–122].

Как видим, вовсе не большие языковые модели и такие продукты современности, как ChatGPT, и даже не искусственный интеллект в целом создают угрозы дезинформации. На качество работы медиаструктур оказывают куда большее влияние совсем другие факторы, которые действовали задолго до появления искусственного интеллекта и продолжат существовать, пока будут существовать люди. Так что в очередной раз мы можем убедиться, что применение искусственного интеллекта не создает принципиально новых проблем, а лишь обращает внимание на давно существующие.

В заключение еще раз кратко сформулирую основные выводы, к которым привело это исследование:

1. прежде чем начинать использовать любые технологии, включая чат-боты, необходимо разобраться в их сути. Да, это непросто, и людям не всегда хочется вникать в особенности технологического процесса, но делать это все равно придется;
2. если есть понимание, как работает технология, то не остается места для появления сюрпризов и для удивления ее «ошибкам» (а на самом деле — абсолютно логичным следствиям применения технологии);
3. способность составить текст не означает умения анализировать, понимать слова, воспринимать информацию;
4. тексты можно создавать разными способами. Человек обычно (если он не играет в предложенные в статье игры) выражает в тексте мысли, идеи, эмоции, образы, которые возникли у него до того, как оказались изложенными в виде текста. То есть первоначальна мысль, текст вторичен. Напротив, LLM составляют цепочки, последовательности слов, одно за другим, не имея представления о том, что из этого получится. Ни получившийся текст, ни даже слова они не воспринимают так, как люди (для них вся «информация», заключенная в словах, — только числа и математические расчеты). Никаких мыслей или эмоций у LLM нет, выражать им нечего. При этом ни отдельные слова, ни итоговый текст не первичны и не вторичны. В «мире» LLM они просто отсутствуют;
5. соответственно LLM, как и некоторые другие виды искусственного интеллекта, не имитируют деятельность человека, не подражают ему, а выполняют совершенно другие действия, которые человеку несвойственны (и для человека бессмысленны);
6. с определенными допущениями можно говорить об имитации результатов деятельности человека (постольку, поскольку человек признает результат работы LLM в качестве текста);
7. появление LLM высветило некоторые проблемы в сфере образования: если чат-бот успешно справляется с задачей, значит, для ее решения не требуются мышление и аналитические способности. А это, в свою очередь, означает, что необходимо вносить изменения в процессы обучения, чтобы формировать у будущих специалистов понимание, а не запоминание;
8. проблема дезинформации порождена не большими языковыми моделями (чат-ботами) и даже не искусственным интеллектом в целом, а самой природой человеческого общества. Эта проблема вызывала обеспокоенность у мыслителей задолго до появления искусственного интеллекта и обусловлена совершенно другими факторами.

¹ Необходимо отметить, что в данной статье допускаются не вполне корректные формулировки, когда ставится знак равенства между чат-ботом и искусственным интеллектом. Если говорить более строго, ChatGPT , а также GigaChat и прочие чат-боты — это продукт, выпущенный компанией-разработчиком на рынок, в основе функционирования которого лежит искусственный интеллект, а именно — большая языковая модель. То есть кроме ИИ внутри чат-бота может быть еще много чего, что тоже влияет на качество работы бота. Но поскольку «фундамент» чат-бота составляет именно LLM , а статья предназначена для коллег-гуманитариев (специалисты в компьютерных науках явно будут читать об LLM в других источниках), такая вольность кажется допустимой ради простоты изложения.

Sobre autores

Marina Komashko

Autor responsável pela correspondência
Email: komashko@list.ru
ORCID ID: 0000-0002-5211-0055

Associate Professor, Department of Digital Law and Bio-Law, Faculty of Law, National Research University Higher School of Economics, Associate Fellow of the UNESCO Chair оn Copyright, Neighboring, Cultural and Information Rights at the National Research University Higher School of Economics, Candidate of Legal Sciences

Bibliografia

Arquivos suplementares

Arquivos suplementares

Ação

1. JATS XML

Baixar

2. The President's New Year's speeches over the years

Baixar (128KB)

Metadados