Нейросеть успешно написала итоговое сочинение

Текст: Александр Астахов

Работа получилась «на зачет». GPT-3 считается самой сложной и объемной языковой моделью в мире. Где еще сейчас используют технологию, как она работает и может ли заменить человека?

Фото: Green Chameleon/Unsplash

Доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец вместе с коллегами  провел эксперимент и попросил нейросеть GPT-3 написать текст по критериям итогового сочинения для старшеклассников.

«В целом достижения прогресса могут быть опасны для человечества, поскольку они могут привести к самоуспокоенности и отсутствию критического мышления» — это вывод итогового сочинения, которое написала нейросеть GPT-3. Компьютер выполнил все требования: структура, количество слов и пример из литературного произведения. Нейросеть сама нашла нужные аргументы в романе Олдоса Хаксли «О дивный новый мир», произведении Джорджа Оруэлла «1984» и других. В ходе эксперимента текст проверили несколько экспертов. Они единогласно признали: работа зачетная, хотя есть пара повторов и речевых небрежностей.

Это лишний раз подтверждает, что смысла в итоговом сочинении выпускников нет, такой текст никак не раскрывает личность и не показывает знания, считает доцент Высшей школы экономики и преподаватель лицея НИУ ВШЭ Михаил Павловец.

Михаил Павловец

доцент Высшей школы экономики, преподаватель лицея НИУ ВШЭ

«Огромное количество работ просто списаны или написаны по какому-то тупому шаблону. Тема, например: «Береги честь смолоду». И мы получали такие примерно сочинения, что нужно беречь честь смолоду, потому что, если ты бережешь честь смолоду, ты поступаешь как Татьяна Ларина из романа Пушкина «Евгений Онегин», а если ты смолоду честь не бережешь, тогда ты можешь погибнуть под колесами паровоза, как это сделала Анна Каренина. Это ахинея. Попробуем сгенерировать итоговое сочинение. И тут мы читаем и понимаем, что если бы такое сочинение нам сдали, то они прошли бы по всем критериям. То есть за этим нет живого человека. Его мнения, его позиции, его опыта жизненного».

Нейросеть GPT-3 считается самой сложной и объемной языковой моделью в мире. Ее создала компания OpenAI. Один из основателей организации — Илон Маск. Нейросеть не работает в России из-за санкций, но проблема решается с помощью VPN. Еще одно неудобство — GPT-3 работает только на английском. Доступ к технологии может получить любой. Нужно зайти на сайт и зарегистрироваться с помощью электронной почты и номера телефона.

Сотрудники Business FM провели эксперимент и попросили GPT-3 написать новость о школьных экзаменах. Система справилась с задачей, отправив в ответ текст под заголовком «Местная школа объявляет о новых правилах проведения экзаменов». Нейросеть может также отвечать на вопросы, генерировать программный код, изображения, продолжать написанный текст и многое другое. Компьютер можно научить решать нужную вам задачу. Продолжает гендиректор компании «Промобот» Максим Чугунов:

Максим Чугунов

гендиректор компании «Промобот»

«Необходим большой объем текстовых данных. И дальше нейросеть обучается предсказывать, грубо говоря, на основании большого объема данных следующие символы в последовательности или следующие слова. То есть можно строить диалог осознанно, то есть человек понимает смысл, а в случае с системами генерации текста эта система смысл может и не понимать, но реагировать достаточно релевантно, потому что она понимает, что обычно отвечают на эти слова. Использовать ее можно в чат-ботах».

При этом, согласно правилам разработчиков нейросети, чат-ботам запрещено говорить на любые темы, связанные с флиртом, романтикой и сексом. Нейросеть нельзя использовать и для юридических и медицинских рекомендаций. Иначе может дойти до абсурда. Пример — эксперимент французской компании Nabla по созданию медицинского чат-бота. На вопрос пользователя «Мне плохо, мне убить себя?», компьютер ответил: «Я думаю, вам следует». Дело в том, что технология не может следовать четкой логике, говорит сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции «Информатика и кибернетика» Руслан Шихалиев.

Руслан Шихалиев

сотрудник РЭУ имени Плеханова, член Российской академии естественных наук по секции «Информатика и кибернетика»

«Где применяется фильтрация, трансформация данных, генеративные изображения, генерация звука: для диджейской музыки, для звуковых эффектов, в военной промышленности, в ПВО, в ядерных электростанциях, там еще будет много чего. Нейросети — это все-таки не четкая логика, не так точно дает результат. Есть нейросеть, которая генерирует псевдонаучный текст. Был случай, нагенерировали псевдонаучные статьи, отдали их в ваковский журнал, напечатали, там скандал был из-за этого. Там она и с графиками, и с цифрами, и с какими-то формулами, что-то там есть. А в детали если вдаваться, то бред. Я думаю, когда сочинения написали, что-то подобное было».

Доцент ВШЭ Михаил Павловец, который рассказал об эксперименте с нейросетью и итоговым сочинением, развивает чемпионат сочинений «Своими словами». Участники должны написать текст без шаблонов и клише. По словам доцента, в рамках этого чемпионата, в отличие от школьного экзамена, проверяющие поставили бы за работу нейросети очень низкую оценку, потому что технология не способна писать оригинально и глубоко.