Помощники или убийцы? Омские предприниматели о нейросетях.
В феврале в «Точке кипения-Омск» состоялась дебютная встреча дискуссионного клуба «Идеи и смыслы», созданного генеральным директором digital-агентства «Легко и Просто» Русланом КИЯМОВЫМ. Организатор сообщил, что омские ученые, программисты, предприниматели, дизайнеры, пиарщики, журналисты и прочие энтузиасты будут регулярно встречаться, чтобы поговорить на животрепещущие темы из мира технологий, экономики, общества, культуры, образования, урбанистики и так далее. Красная нить всех мероприятий – формирование образа нашего совместного будущего.
Ликбез
Первой же темой КИЯМОВ выбрал обсуждение нашумевшего ChatGPT и других нейросетей, их влиянии на человеческую повседневную жизнь и общество в целом. ChatGPT – чат-бот, основанный на последней версии языковой модели GPT, запущенный в конце ноября 2022 года и мгновенно снискавший популярность: спустя всего неделю разработчики сообщили, что число пользователей достигло 1 млн человек (на конец января 2023-го их было уже 100 млн). Разработчики, кстати, небезызвестные: лаборатория искусственного интеллекта OpenAI, в которую активно инвестирует Microsoft и у истоков которой стоял некогда самый богатый человек мира – американский технократ Илон МАСК (сейчас основателя SpaceX, архитектора Tesla и владельца Twitter задавил своим капиталом председатель и CEO Louis Vuitton Moët Hennessy Бернар АРНО).
Главная фишка этого чат-бота – его обучаемость. ChatGPT вбирает в себя тексты Сети и способен генерировать осмысленный ответ на любой вопрос, причем последовательно: оспаривая некорректные вводные данные, отклоняя неуместные замечания и даже признавая собственные ошибки – не каждому человеку такое подвластно. Любопытно, что у этой нейросети есть «память»: запоминая детали разговора, она учится буквально по ходу дела, что и делает ее буквально героиней из фантастических триллеров. Тем не менее ее предусмотрительно промодерировали: она не высказывается по личным вопросам, не имеет расы и пола, не исповедует религию.
ChatGPT уже используют для написания программного кода, картин, всевозможных текстов от стихов и киносценариев до научных работ и публичных речей, даже проведения сеансов психотерапии. Есть существенный нюанс: так как чат-бот воспитан на всем, что есть в Сети, то он виртуозно смешивает ложь с правдой, производя на свет предвзятые суждения и оскорбительные высказывания. Ученые бьют тревогу: медицинским исследованиям из-под его пера доверять нельзя – его выводы могут быть опасны. Как теперь нельзя доверять и студентам от мала до велика, радостно отдавшим на откуп чат-боту написание сочинений и курсовых.
(Не)риторические вопросы
«ChatGPT – проблема или возможность для общества?» – задался вопросом КИЯМОВ вслед за всем остальным миром. Модератором дискуссии выступил политтехнолог и преподаватель политологии Иван ЖУКОВ. Он рассказал о своем опыте взаимодействия с нейросетью (не забываем о существовании VPN), которая за минуту написала эссе на заданную тему в то время как сам ЖУКОВ потратил на это два дня, не считая нескольких предварительных месяцев внимательного чтения книг:
– Происходит уникальное событие. Вы не представляете себе, сколько государств рухнуло и появилось просто потому, что общество перешло с графического письма на слоговое, а потом на алфавитное. Как из-за дефицита бумаги человечество утрачивало возможность воспроизводить свои знания. Как книгопечатание ставило под угрозу исчезновения профессиональную прослойку книгописцев. Еще лет в 14-15 я прочел в одном из журналов прогноз о появлении в течение века неолуддитов, стремящихся разрушать современные технологии, поскольку те лишают их рабочих мест. К чему может привести стремительная эволюция мощных систем, которые уже сейчас делают за людей тексты, программный код и финансовую аналитику? Не за горами ли социальный рейтинг? Не сбудется ли давняя мечта «леваков» о неоплановой экономике, в которой каждая компания в режиме онлайн отчитывается о своей деятельности? Прогресс остановить нельзя, но, наверное, стоит задать ему какую-то этику, правила взаимоотношений между человеком и машиной. С одной стороны, это новые возможности для государства (с риском возникновения тоталитаризма), с другой, – для отдельных граждан (руководство страны уже не может задавить своей компетентностью оппозиционеров, к примеру) и регионов, ведь субъекты Федерации отличаются не только в имущественном плане, но и интеллектуальном (мозги утекают в Москву и за рубеж).
По словам ЖУКОВА, государство способно использовать чат-боты и во благо: это умное голосование, просвещение по поводу вакцинации, адресное информирование по поводу выплат, допустим, детских пособий. Исключение человеческого фактора хотя бы частично ослабит ригидность неповоротливых структур. Политолог предположил, что во главу угла снова будет ставиться человеческое творчество, ведь все хлопоты – в бизнесе или, во власти – можно делегировать нейросетям. Но главный посыл модератора был в том, что потребителей контента больше не становится: возможности человеческого восприятия ограничены, и сколько текстов ни сгенерирует искусственный интеллект, количество читателей это никак не увеличит.
КИЯМОВ уточнил: у ChatGPT порядка 175 млрд параметров, способных работать в диалоговом режиме, наподобие мессенджера. Пустоты, воды в ответах может быть критично много:
– Нейросеть ответит на вопрос «что?», но не всегда «как?». Способна ли нейросеть заменить учителя? Каждый ученик получил бы своего персонализированного преподавателя. Но повысит ли это качество образования? Способна ли нейросеть стать полноценным консультантом в бизнесе? Подсказать, как победить конкурентов, как выстроить бизнес-процессы, сгенерировать полезные гипотезы? Способна ли нейросеть, создавая увлекательные нелинейные сценарии, управлять вниманием ребенка во время игры настолько, что у нас появится риск потерять наших детей?
К слову, об искусстве. Нейросеть, как уже было сказано, создает весьма необычные картины по любым запросам. Под угрозой даже киноиндустрия: могут быть синтезированы не только сценарии, но и визуальные образы, голоса, которые неотличимы от реальных людей. Так стоит ли тогда тратиться на труд актеров. Но будет ли зритель переживать эмпатию к искусственно созданным героям?
Организатор клуба машинного обучения в Омске Илья СИГАНОВ рассказал, как из примитивных классификаторов текстов, благодаря усложнению алгоритмов, выросли трансформеры, способные анализировать содержание связных абзацев – например, переводить с английского языка на французский. Затем разработчики научились генерировать текст из картинки и наоборот. OpenAI пошли дальше и внедрили диалоговую модель – не просто вставляющую пропущенные слова и заканчивающие предложения, но подключили методом машинного обучения обучение с подкреплением, использующееся, например, в автопилотах. Множество тестировщиков – настоящих людей – оценивали результаты развития GPT, качество ответов, что и привело к синтезу обсуждаемого чат-бота:
– Внутри, конечно, никакого сознания нет. Это просто сверхбольшая, чувствительная матрица. У всех текстовых моделей память короткая. Вы можете долго переписываться, но она не «вспомнит», что было задолго до этого. Мы спрашиваем друг друга, что такое искусственный интеллект. А знаем ли мы, что такое «естественный интеллект», что такое «человеческое сознание»?
(Не)виртуальная реальность
По теме высказался генеральный директор ООО «Сибирская студия разработчиков» Вадим МАЗУР:
– Нейросети – это инструмент. Важно, обладает ли ваш домашний счетчик интеллектом? Важно, что он отключается, когда происходит замыкание. Важно, что он делает это быстрее и надежнее человека. Нейросети могут галлюцинировать – придумывать что-то оригинальное и неправдоподобное, не имеющее отношения к реальной жизни. У меня есть подписка на Midjourney – классные картинки, но иногда встречаешь там кучу пальцев, кучу лап… Хочется прямо распечатать эти изображения и показывать всем, как порой глючит нейросеть. Тоже самое с текстами. Да, нейросети могут быть в их написании эффективнее людей, но просто потому, что люди неэффективны. ЧПУ станок тоже сделает деталь, пусть и медленнее, но в разы точнее и качественнее человека. Но даже он может глюкануть!
А все потому, что кто создает станки? Правильно, человек. Нейронная сеть не воспринимает мир так, как это делаем мы, а всего лишь переваривает нами уже произведенное – тексты, картинки – со всеми нашими искажениями и ошибками. МАЗУР предложил не переоценивать значение нейросетей, а всего лишь пользоваться ими как инструментами: для быстрой генерации рутинных ответов клиентам или подрядчикам, для анализа судебных документов и выделения в них главного и так далее, и так далее. Работы для нас меньше не станет, уверен разработчик, да, может некоторые профессии и видоизменятся, но даже самые сложные машины продолжает обслуживать именно человек. Результаты исследований на ультрасовременных УЗИ-аппаратах и магнитно-резонансных томографах все равно анализирует живой доктор. То же самое с электриками, учителями, психологами и прочими-прочими. Предприниматель призвал не демонизировать технологии: все традиционно упирается в их использование, а выбор в пользу изоляции добровольно делал не только современный человек, просто гаджеты пришли на смену газетам и телевидению.
Дискуссию в сторону образовательной проблематики повернул генеральный директор ООО «Центр автоматизации» Александр ВЬЮН. Он был уверен, что преподавателя никогда не заменит никакой чат-бот, ведь он обучает в первую очередь навыкам и знаниям, а не просто передает информацию, с чем действительно несомненно справятся нейросети. По словам предпринимателя, учебный процесс может и должен вызывать у человека полезный дискомфорт, в то время как нейросеть убаюкивает своего собеседника тем, что тот хочет услышать. В онлайн-образовании, был уверен участник встречи, более 80% трэш-контента, а хороший педагог как раз помогает отделить зерна от плевел:
– Хоть какого первоклассного чат-бота ученику ни подсунь, его это не научит мыслить и работать. Человек – существо ленивое вне зависимости от национального менталитета. Он сбросит на бота все задачи, которые должен был бы выполнять сам для своего развития. Я, например, за время пандемии устал от говорящих голов по ВКС. По-настоящему горячие диспуты рождаются только при личном общении.
Эту позицию поддержал генеральный директор ООО «Айти Траст Ворлд» и ООО «АСР-ФОРСА» Александр КОРАБЛЕВ. Уча людей продавать и вести бизнес, он так же, как ВЬЮН, считал, что преподаватель не должен быть удобным, иначе процесс обучения не запустится. Он привел в пример чат-бот, ведущий человека по построению собственного дела. Из 2000 человек, заплативших за трехмесячное обучение 50 тысяч рублей, только 5% предпринимают какие-то реальные шаги для воплощения проекта, имея при этом всю необходимую для того информацию.
О роскоши живого общения порассуждала и бренд-дизайнер Лола САМБОРСКАЯ: мир постепенно приходит к тому, что персональные контакты становятся элитарными. По-настоящему материально обеспеченные люди покупают одежду в бутиках, а не заказывают ее в Сети, ходят в ресторан, а не опять же пользуются доставкой. Личный тренер, личный врач, личный наставник – вот признак современной роскоши. Пользоваться чат-ботами, конечно, дешевле, но и результат много хуже.
Директор Омского научно-образовательного центра Евгений БЕЛОПУХОВ подчеркнул, что как только нейросети солидно прибавят в качестве, они гораздо чаще будут использоваться. Спикер поиронизировал: преподаватели преподавателям рознь, некоторые люди галлюцинируют похлеще порождений искусственного интеллекта. Не заменит чат-бот бизнес-консультанта или учителя, но зато существенно дополнит их функционал.
Генеральный директор ООО «АМИТЭКС» Анна МИТРОХИНА создала нейросеть по противодействию кибербуллингу, столкнувшись с этим явлением лично. Благодаря профайлингу сеть выдает экспертные заключения по поводу того, можно ли назвать конкретные случаи травли в Интернете кибербуллингом, задействованы ли в этом боты. Атаки негативными отзывами – весьма современный прием устранения бизнес-конкурентов или хотя бы ослабления их позиций на рынке. В суде, к сожалению, эти экспертные заключения пока не имеют юридической ценности, посетовала предпринимательница, но это можно исправить законодательно. В конце концов только пандемия вывела из тени онлайн-образование, приравняв его к офлайн-обучению. МАЗУР добавил, что в Китае уже запущен законодательный процесс регулирования нейросетей: в частности, созданные ими продукты, будь то изображения или тексты, обязаны быть промаркированы.
«Нейросети должны стать нашими помощниками, а не убийцами», – резюмировал КИЯМОВ. В аудитории поддержали: как водится, пользователь проголосует рублем. Ему же, считают эксперты, и должно принадлежать право регулировать процесс, иначе произойдет как с поисковиками и соцсетями, которые продают корпорациям личные данные потребителей в целях наживы.
Ранее репортаж был доступен только в печатной версии газеты «Коммерческие вести» от 22 февраля 2023 года.
Фото © Максим КАРМАЕВ
