В дискуссионном клубе «Волжской правды» прикинули как не попасть в нейросети

Что несет человечеству развитие нейросетей: высшее благо или экзистенциальную угрозу? Помощь или вытеснение? Способна ли нейросеть испытывать эмоции и не отучит ли она наших детей от мыслительного процесса? Эти и другие вопросы обсудили участники дискуссионного клуба «Волжской правды» 29 сентября.

Это неизбежно

Преподаватель информатики школы № 35 Павел Михайлович Лысков

Я считаю, что искусственный интеллект – это прекрасная вещь. Но, рано или поздно, он однозначно выйдет из-под контроля, потому что умнеет с огромной скоростью. И когда он вырвется из коробки, мы не просто не сможем его контролировать… Он просто будет жить своей жизнью. Мы и сейчас не всё понимаем из того, что он делает. Программисты научили его правильно выдавать ответы. Все радуются этому, но никто до конца не понимает, как именно он это делает. Да, мы сами его обучаем и понимаем эти алгоритмы, но он становится все больше и больше, и вскоре его код уже никто не сможет отследить.

Давайте честно: он уже нас обманывает… Просто ему незнакомо это чувство. Плюс, у него еще пока нет эмпатии, и подобных ощущений. Так, мы его и этому обучаем. Политкорректности, чему-то еще. Но опять – таки, когда он будет слишком «интеллектуальный», мы станем для него глупы и неинтересны. А когда он слишком разрастется – мы не сможем отследить все мощности, которые он будет брать под свои задачи. Он ведь уже в сети… Кто ему сможет помешать захватывать сервера?

Думаю, что с технической точки зрения он будет слишком самостоятельным, иначе мы не получим от него тех результатов, которые хотим. Ведь в бизнесе он уже принимает отличные решения. Более грамотные, чем руководители. Он находит все точки безубыточности и выводит все в «плюс». Он постепенно станет как высший разум. Мы его не то, что контролировать, мы его попросту понять не сможем. И что тогда делать? Обесточить все? Так он к тому времени уже подстанциями будет управлять… Он уже, в принципе, всем этим управляет. Они общаются. Пока еще это происходит на зачаточном уровне, а лет через пять, представляете, какой это будет диалог? Они будут обмениваться накопленными данными.

Нейросеть быстрее находит нужное решение, перебирая все заложенные в нее комбинации и варианты. И перебирает лучше человека. Не быстрее, а именно лучше. Она просто по-другому на это смотрит. Она берет информацию и прогоняет её через фильтр. Соответственно, изучив свойства всех химических элементов, она быстрее будет находить варианты решения для самых сложных ситуаций. И в этом плане на нее возлагаются большие надежды.      

Что касается страхов… Искусственный интеллект – это высокие технологии, от которых уже никуда не денешься. Это – современные реалии. Мир меняется, и это неизбежно. Каких-то 15 лет назад «айфон» дал огромный толчок развитию мобильной связи, и сейчас мой телефон гораздо мощнее, чем компьютеры, которые отправляли первого человека в космос. Да, с появлением искусственного интеллекта могут исчезнуть и многие профессии. Но это – неизбежно и к этому нужно быть готовым.

Тандем с человеком – наилучший вариант      

Доктор технических наук, профессор Волжского политехнического института, заслуженный работник высшей школы РФ Виктор Федорович Каблов

Никакого единого сверхразума, который находится где-то как Бог на облаке или в сети, разумеется, нет. И, пытаясь придать ему черты сознания, мы слишком опережаем события. Мы пока еще не знаем, как работают механические алгоритмы в искусственном интеллекте. Тут совершенно разные процедуры обработки информации и очень четкая логика. У людей сознание – это некая полевая надстройка над мозгом, которая в общем массиве информации некое поле определяет как наше «я». В случае с искусственным разумом такого понимания пока нет вообще.     

Я несколько раз пользовался популярными сейчас программами искусственного интеллекта Chat GPT. Это был забавный диалог, который был бы невозможен, если неверно формулировать вопросы и не наводить нейросеть на ту информацию, которая нужна. Если, конечно, речь идет не об обычной справке из базы данных. Когда мы начали общаться, я понял, что её уровень сопоставим с уровнем студента 3 курса, даже несколько ниже, потому что иногда она путает такие вещи, которые бы студент спутать не смог. То есть, она берет ту информацию, которую черпает в интернете, как бот, и, действительно, невероятно быстро ищет. И это – «минус». Потому что мусора много. «Плюсом» можно назвать то, что она неожиданно дала такую информацию, о которой ни я, ни мои коллеги даже не подозревали. И это навело меня на мысли. Есть две стороны: хороший специалист может вывести его на полезную информацию, которая ему нужна или, наоборот, спровоцировать пустой неконструктивный диалог. Как часто бывает с той же Алисой.

Нам интересна скорее смешанная система, когда человек и машина работают в паре. Я понял, что надо использовать квалификацию человека на каждом этапе принятия решения. Когда нейросеть выдает, к примеру, пять лучших вариантов, и которых нужно выбрать самый лучший. Если поручить это неграмотному технологу – эффекта не будет. Он не сумеет выбрать лучший.

А как бы журналисту было бы удобно с нейрожурналистом! Было бы быстрее и проще подобрать информацию для конкретной целевой аудитории. Дизайнеры, может, и не исчезнут. Но они точно появятся нового типа. Я видел, как нейросеть генерирует платья для подиума. Это – нечто! Такие узоры вряд ли смогут прийти в голову обычному модельеру. Возьмите хоть нашумевший «собачий узор»  от нейросети Google Deep Dream. Узоры, конечно, холодные, не Левитан… Но довольно интересные. Их можно развивать. А компьютерная поэзия?…

Времена, когда мы выпадем и совсем потеряем контроль, может быть, и возможны. Но пугаться этого точно не нужно. Лично я в этом опасности не вижу. В каких-то определенных областях, например, в той же диагностике больного, диагностическая машина действительно сработает лучше врача. Она же оперирует огромным количеством данных и сможет быстро найти то единственно верное решение. А опытный врач-диагност, напротив, может ошибиться. Поэтому я — за тандем искусственного разума и квалифицированного персонала. 

Из мухи слона раздули

Руководитель Технопарка «Кванториум «Волжский Политех» Иван Сергеевич Кузнецов

Ну, во-первых, искусственный интеллект – не равно сознание. Он будет работать только с тем материалом, который у него есть. И он не способен к творчеству. Он может компелировать, делать выборки, находить лучшее решение…

Существуют открытые и закрытые нейросети. Искусственный интеллект, работу которого мы не понимаем, есть, например, у Сбербанка или Яндекса. Ни для кого не секрет, что они собирают информацию, обрабатывают большие массивы данных и формируют из этого предложение. Но эти процессы закрыты. Это – интеллектуальная собственность.

Наряду с этим, есть множество открытых нейросетей. Исходный код которых можно брать, дорабатывать и выдавать за свой. Самая популярная – та, что считывает эмоции. Посидел с ней полдня, сделал свой интерфейс, перевод, заменил слово «счастье» словом «радость», и называй своей разработкой.

Весь интернет, по сути дела, это наследие хиппи, то есть свободных людей. Они выкладывают, мы пользуемся. И многие не копаются дальше. Пользуются либо уже готовыми нейросетями, либо — полуфабрикатами. Чтобы создавать свой код или считать код Яндекса, нужен совершенно другой уровень квалификации. На такое способно порядка 1 % населения.

Поэтому говорить о том, что интеллект как-то опасен…  Да, вовсе он не опасен! Люди просто раздувают из мухи слона.

Напротив, начали появляться хорошие инструменты. Нейросети хорошо внедрились в дизайн. Например, в программе Adobe Color вы можете задать параметры кроссовка, и она создаст вам его модель. Уберет ли это профессию дизайнера? Нет. Может быть, появится какая-нибудь новая профессия, которая будет связана, например, с проджект-дизайном.

В «Кванториуме» есть отдельное направление. Мы обучались в Сбербанке для того, чтобы преподавать его детям. Мы, действительно, можем научить пользоваться соцсетями, научить задавать верные вопросы. Это — особый вид искусства. Можно сказать — новая профессия. Еще мы разработали новую программу для педагогов. И хочу сказать, что нейросеть пишет лучше, чем педагог. Исключен человеческий фактор и все дается по алгоритмам.

Самая популярная нейросеть общего плана сейчас Chat GPT – 3,5. Она очень удобна. Например, при подготовке ответа прокуратуре вам, помимо ссылок на нормативные акты, еще и совет в конце дадут и практикой поделятся, которую сами не найдете.

Может ли искусственный интеллект отучить детей думать? Так ведь они же все равно обращаются к поисковым системам: Яндексу, Гугл… Теперь добавится и Chat GPT. И, если учесть то, что запрос школьники буду формировать индивидуально, сочинение вполне можно будет считать уникальным.

А вот уже решать что-то  более серьезное открытые и доступные нейросети пока не могут. Например, сделать расчет на основе каких-то химических исследований.

Сможет ли нейросеть когда-нибудь испытывать эмоции? Это уже из области фантастики. Мы же до сих пор не знаем что такое сознание. Хотя есть такие науки как нейробиология, философия и др. Имитировать – да, испытывать – нет.

Ну, не вырвется искусственный интеллект за рамки сознания!

Своя нейросеть есть, например, у Медуниверситета. И они ее активно разрабатывают, тестируют, очень ей гордятся. Но, боюсь, что сложные случаи ей как раз не под силу. Она не сможет считывать внешние данные и учитывать их при выборке.

Искусственный интеллект – это помощник. Не более.

Новости СМИ2