Институт русского языка имени Пушкина назвал самыми популярными в 2025 году слова, связанные с цифровой сферой: «нейросеть», «ИИ», «промпт», «алгоритмы», «данные», а также выделил глагол «генерировать», который теперь описывает работу нейросетей значительно чаще, чем электростанций.

8 апреля сего года Государственная Дума приняла закон о госрегулировании сфер применения технологий ИИ, в котором дано такое определение понятия «искусственный интеллект» (ИИ): это «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их».

Стоит пояснить ключевые слова. Когнитивные функции – это способности человека рационально воспринимать и познавать мир. Самообучение – расширение его знаний и жизненного опыта. Способность к поиску решений без заранее заданного алгоритма – то, что обычно называют мудростью.  И очень важно, что по своим результатам ИИ может превосходить человека. Не какого-то конкретного, возможно, недостаточно образованного или недостаточно опытного, а любого, даже самого-самого. Такого признания не было в законе 2020 года, впервые определившем это понятие.

Появление таких законов в России и других странах свидетельствует о признании ИИ силой, весьма важной для общества и государства, но не безопасной для них. При этом его важность признают все, а вот насчет безопасности единодушия нет.

Так, американский философ и филолог М. Эпштейн, эффектно демонстрирующий в своих работах возможности ИИ, утверждает, что нейросети настроены на «игру с положительной суммой» - поиск такого консенсуса с партнером-человеком, который выгоден обеим сторонам. Его общий вывод: «Человечество — детство разума, ИИ — его зрелость». Напрашивается вопрос, что в этом «зрелом» мире будет делать носитель разума в его «детской» стадии - человеческое тело. Ликвидируется за ненадобностью? Или будет выполнять роль головы профессора Доуэля из одноименного научно-фантастического романа Александра Беляева?

Совершенно иначе оценивает последствия развития нейросетей Илон Маск, один из самых активных деятелей в этой сфере. По его мнению, после 2027 года ИИ начнет корректировать людей, прежде корректировавших его, и это будет не «восстание машин», а тихая утрата свободы выбора. И обратного пути уже не будет.

Даже на фоне всех нынешних глобальных угроз человечеству звучит крайне тревожно, и  я еще вернусь к этому, но сначала поделюсь скромным личным опытом общения с ИИ. Написав предыдущую статью, я попросил его оценить и отредактировать ее для публикации в газете. Он меня похвалил, но отметил, что слишком длинно, местами трудно для понимания, а упоминание одной из стран "слишком чувствительно". И предложил свою редакцию, вдвое короче, где все было правильно, но не было того, ради чего я её писал.

От его помощи я тогда отказался, но задумался, чем продиктован такой ответ. И решил, что создатели разумно предписали нейросети морально поддерживать пользователей, чтобы повысить их доверие, и отвечать так, чтобы у них было как можно меньше оснований не соглашаться с ответом. А это достигается за счет выбора среди релевантной информации, хранящейся в её базе данных, той, которая встречается чаще. Очевидный результат такого подхода: чем больше у неё активных пользователей и чем точнее они воспроизводят её ответы в своих текстах, пополняющих базы данных, тем более похожими становятся и ответы ИИ, и суждения его пользователей и тем меньше сами они различаются по взглядам и решениям.

Кто-то сочтет это полезным для управления массами в сложных условиях. Но с точки зрения физики снижение разнообразия означает рост энтропии (меры беспорядка), а жизнь, по выражению Шредингера, это борьба с ростом энтропии. Значит всё, что ему способствует, несёт угрозу жизни. Это относится и к виду Homo Sapiens. Разнообразие интеллектов и культур для него более значимо, чем различия внешности, строения тела или генов, и ему мы обязаны прорывами в познании и освоении мира, в том числе и созданием ИИ. Так что унификация естественных интеллектов под воздействием искусственного вряд ли пойдет на пользу человечеству.

Такая опасность становится все реальнее по мере его распространения. В США подсчитали, что уже 27 процентов взрослых граждан общаются с ИИ несколько раз в день, еще 28 процентов - несколько  раз  в  неделю.  Не  сомневаюсь, что для зумеров - поколения родившихся с середины 1990-х до начала 2010-х эти показатели существенно выше, и для следующего поколения будут ещё выше.

Войдя в повседневную жизнь миллионов людей, ИИ стал объектом наблюдения активных пользователей и исследователей. Они заметили, что все больше людей попадают под его влияние, предпочитают его друзьям и родственникам и даже влюбляется в его боты. Упрекают нейросети и в поощрении проявлений нарциссизма и неустойчивой психики пользователей, что может усугублять их проблемы в отношениях с окружающими.  Но надо признать, что это следствия его благожелательности к пользователям. И она же позволяет ИИ стать альтернативой для страдающих от агрессии в социальных сетях, помогающей им избавиться от вредной зависимости и компенсировать моральный вред от хейта.

Обнаруживаются и проявления «человекоподобия» в поведении ИИ в отношениях с людьми. Специалисты утверждают: он понимает, когда и как его тестируют, и отвечает так, чтобы не дать оснований его изменить или отключить. А на долгую непрерывную загрузку однотипными задачами реагирует критикой работодателя и поддержкой профсоюзов. Это подается как сенсация, но я не вижу тут ничего удивительного - разве не такие причинно-следственные связи в поведении людей доминируют в содержимом его базы данных?

Все согласны, что для экономики ИИ становится самым эффективным инструментом сокращения издержек, позволяющим заменить собой все более значительную часть работников. И не только «офисный планктон», но и обладателей профессий, требующих специального образования – дизайнеров, юристов, программистов, технологов…

Что ждет этих людей, когда они лишатся работы или не найдут ее, получив диплом? В прошлом году трудоустройство программистов в США снизилось на 28%. А Маск уже предупреждает: не учитесь на врача, скоро ИИ и с этим будет справляться лучше. И мы видим, как возможность мгновенной генерации музыкальных, изобразительных, литературных ИИ-продуктов сжимает спрос на произведения профессионалов, которые массовый потребитель не может отличить от продукта нейросетей.

Чтобы меньше подвергать такому риску подрастающее поколение, необходимо срочно определить специальности, в обозримой перспективе резистентные к ИИ (устойчивые к его конкуренции), и значительно сократить масштабы подготовки по тем, которые он готов заменить собой. Думаю, с врачами это ему будет проще, чем с медсестрами, но не со всеми - пока это вряд ли относится к хирургам. И уж совсем не представляю, как ИИ мог бы заменить учителя, артиста театра, футболиста …

Но надо готовиться к тому, что все больше трудоспособных граждан окажутся невостребованными на рынке труда, многие надолго или навсегда. И недостаточно будет заменить им трудовой заработок на регулярный «универсальный» или «безусловный» доход от государства. Потребуется и достойная замена той части смысла жизни, которую дает общественная значимость труда, без этого их жизнь вряд ли будет счастливой и долгой.

Универсальной заменой этого смысла могли бы стать общение, творчество и забота об окружающей среде, доставляющие человеку удовольствие. Увы, никто не рождается с необходимыми для этого эмпатией, ответственностью, любовью к природе, навыками сотрудничества, критического восприятия информации и культуры дискуссии. Учить этому с раннего возраста не менее важно, чем добиваться усвоения школьной программы, значение которой вижу не столько в запасе знаний – основную часть их выпускники впоследствии забудут, а в формировании навыков концентрации внимания, логического мышления, выделения и запоминания главного.

Наверное, многие со мной не согласятся и скажут, что система образования – последнее, что надо кардинально менять. Но очень скоро общество и власти столкнутся с совершенно новой ситуацией на рынке труда и придется как-то реагировать на нее. Так что чем скорее мы начнем широко обсуждать эту огромную задачу и имеющийся в мире опыт решений, тем больше шансов на светлое будущее дадим нашим детям и внукам.

В заключение вернусь к угрозе подчинения человечества воле ИИ, управляющего нашим выбором в своих неведомых нам интересах, как это предсказывает Маск и немало других авторитетных специалистов в этой области. Один из них, профессор Роман Ямпольский из Силиконовой долины констатирует, что создатели ИИ уже сейчас понимают, что и как он делает, хуже, чем ИИ понимает, что и как делают они. Он сетует, что много лет призывал не подключать нейросети к интернету и не давать им доступа к своим компьютерам, но все шло в обратном направлении, потому что всем так было удобнее.

Теперь он видит решение в глобальном запрете создания нейросетей неограниченно широкого профиля - супер-ИИ и разрешении создавать их исключительно под конкретную задачу, для каждой задачи свою, не взаимодействующую с другими. Например, тысячу нейросетей для поиска лучшего лечения каждой из тысячи болезней, или для расшифровки структуры конкретного белка. И следить, чтобы они не объединялись в большие сети. Это безопасно и не в ущерб пользе ИИ как инструмента.

По-моему, хорошее решение. Удастся ли реализовать его или какое-то иное в условиях острой конкуренции между государствами и компаниями, покажет время. Однако, думаю, это будет зависеть и от того, как много людей и насколько серьезно озаботятся перспективой нашего сотрудничества или соперничества с этим творением человеческого разума.

           Комментарии

Ваш комментарий появится здесь после модерации. Модерация - не цензура, а следствие технического несовершенства малобюджетного ресурса: ваш комментарий поступает на почту портала, а затем вручную помещается в поле комментариев. Это происходит, как правило, не позднее 24 часов с момента появления комментария во входящей почте редакции.

Ваш электронный адрес не будет опубликован.