Чем нейросети отличаются от человеческого разума и стоит ли опасаться «восстания машин», обсудили участники Public Talk «Интеллект искусственный или противоестественный?», который состоялся 29 января в Информационном центре по атомной энергии (ИЦАЭ) Ростова-на-Дону в рамках тематической программы «ИЦАЭ OPEN».

Актуальные вопросы искусственного интеллекта обсудили в формате интеллектуального обмена мнениями доктор физико-математических наук, аналитик компании «Почта сервис» Станислав Кубрин и научный сотрудник Международного исследовательского института интеллектуальных материалов Южного федерального университета Богдан Проценко.

В первой части встречи спикеры объяснили, что стоит за популярными терминами «нейросети», «трансформеры» и «большие языковые модели». «Нейросети — это алгоритмы искусственного интеллекта, состоящие из искусственных нейронов», — пояснил Богдан, добавив, что архитектур может быть много, а трансформеры — лишь один из вариантов. Он отметил, что большие языковые модели отличаются масштабом и задачей: они предсказывают продолжение текста на огромных корпусах данных и могут иметь сотни миллиардов параметров. При этом эксперты подчеркнули, что эти системы не обладают сознанием и волей, а остаются сложными статистическими инструментами.​

Отдельный блок был посвящён истории искусственного интеллекта: от конференции в Дартмуте 1956 года, где оформилась сама идея «науки об ИИ», до периодов «зим искусственного интеллекта», когда завышенные ожидания сменялись спадом интереса и финансирования. «Зима искусственного интеллекта — это ситуация, когда исследователям внезапно перестали давать деньги», — рассказал Богдан Проценко, пояснив, что первые попытки «втиснуть мышление в рамки логики» и создать идеальные системы перевода показали ограниченность тех подходов.​

Слушателей особенно заинтересовала тема влияния ИИ на образование и когнитивные способности. Ведущая Светлана Чурикова подняла вопрос, не приведут ли нейросети к «отучиванию» школьников думать, если система может полностью написать реферат или решить задачу. Станислав предложил посмотреть на этот страх в исторической перспективе.

«Каждый раз, когда появляется новая технология, звучит один и тот же мотив: молодежь никуда не годится, учиться не хочет», — напомнил он, приводя примеры реакции общества на появление радио, телевидения и интернета.

По его словам, образование постепенно «переваривает» новые инструменты, а работа с «умными» системами, напротив, требует от человека лучшего понимания предмета, иначе остаётся риск бездумно принимать ошибочные ответы.​

Во второй части ток-шоу ведущая зачитала вопросы, заранее собранные в социальных сетях. Один из них касался «восстания машин»: насколько реально, что ИИ «перепрошьёт себя» и перестанет быть помощником человека.

«У него нет чувств. Нет чувств – нет мотивации. Нет мотивации – ему всё равно», — подчеркнул Станислав Кубрин, отметив, что без собственных целей алгоритм не сможет доминировать. Второй спикер согласился: «Пока это штука, которая текстом отвечает тебе в окошечке, это вещь без собственного габитуса, она не может сказать: «Я сама себя буду промтить!»» – резюмировал он.​

Другой вопрос касался авторства: если нейросеть обучить на работах конкретного профессора и она напишет статью, которую рецензенты примут за «типичную» для этого учёного, то кому принадлежит текст? Богдан Проценко заметил, что журналы уже пытаются проверять рукописи на использование ИИ, но детектирование не всегда надёжно. Главное же, по его словам, в том, что такая модель не создаст принципиально новых идей: «Сеть будет писать, как профессор, но она ничего принципиально нового не напишет», — сказал эксперт, подчёркивая разницу между комбинированием известного и настоящим научным прорывом.​

Блок вопросов из зала сделал разговор ещё более живым. Одна из участниц призналась, что раньше была «хейтером» ИИ, но сменила позицию, когда нейросеть помогла ей разобраться в сложном курсе, тогда как друзья устраивают «мини-протест» и отказываются даже от напитков со сгенерированной этикеткой. «Всегда есть люди, которые отрицают. Это способ показать, что «я не такой»», — прокомментировал Станислав, предложив относиться к таким практикам скорее, как к личному выбору или перформансу, чем как к реальному сопротивлению технологиям.​

Зрители задавали и более технические вопросы — о «галлюцинациях» нейросетей, байесовских подходах в машинном обучении, мультимодальных моделях и загадочных эффектах обучения, таких как «grokking». «Генеративная модель учится выдавать правдоподобную информацию. Мы не обучаем её давать истинные или ложные ответы, а делаем так, чтобы правильные ответы были более вероятны. Она всегда может ошибаться», — пояснил Богдан, отвечая на вопрос о том, наступит ли момент, когда ИИ будет давать абсолютно достоверные ответы, не требующие проверки. При этом он отметил, что вокруг тем «загадочности» ИИ иногда создаётся дополнительная «аура» ради привлечения инвестиций.​

В завершение встречи эксперты вернулись к главному вопросу — о том, является ли искусственный интеллект «интеллектом» в человеческом смысле и представляет ли он экзистенциальную угрозу. Станислав Кубрин напомнил, что строгого научного определения интеллекта до сих пор нет, а человеческое мышление неотделимо от тела, чувств и эмоций, которые порождают мотивацию и ценности. Богдан Проценко, в свою очередь, подчеркнул, что ключевые риски связаны не с мифическим «восстанием машин», а с человеческими решениями: как именно мы внедряем ИИ в медицину, образование, экономику, какие регламенты и законы создаём вокруг него и насколько готовы критически относиться к его ответам.​

«После мероприятия осталось ощущение, что это был не просто вечер про нейросети, а честный разговор о том, как мы вообще живём с технологиями. Спикеры не пугали «восстанием машин», а спокойно объясняли, чем нейросети отличаются от настоящего интеллекта, почему большие языковые модели такие мощные и при этом всегда допускают погрешности. Особенно понравилось, что обсуждали не только технику, но и образование, творчество, рынок труда, и в ответах постоянно возвращались к мысли: ответственность всё равно на человеке — и за то, как мы учимся, и за то, как используем новые инструменты. Формат вопросов из соцсетей и зала сделал разговор живым. Спасибо за классно проведённый вечер!» — отметила Елена Дорошкевич, постоянный посетитель мероприятий ИЦАЭ.

В рамках проекта «ИЦАЭ OPEN» каждую неделю в городах присутствия Информационные центры по атомной энергии становятся открытыми площадками, на которых любители интеллектуального досуга могут пообщаться с учёными, сыграть в интеллектуальные и настольные игры, стать зрителями научно-популярных ток-шоу и участниками мастер-классов.

С актуальными новостями ИЦАЭ Ростова-на-Дону и анонсами предстоящих мероприятий можно ознакомиться на сайте myatom.ru, а также в официальной группе центра в социальной сети «ВКонтакте».