Нейросети в профессиональной деятельности: понятие, свойства, риски и последствия применения

Понятие

Если коротко: нейросети — это не весь ИИ, а один из его «инструментов», хотя сейчас самый модный и мощный.

Нейросети являются не синонимом искусственного интеллекта, а его частным случаем, который получил широкое распространение благодаря высокой эффективности при работе с большими данными, обработке изображений, речи и текста.

Искусственный интеллект

Искусственный интеллект — комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их (Указ №490, ФЗ-123).

Также искусственный интеллект — область науки и техники, рассматривающая технические системы, которые порождают такие результаты, как контент, прогнозы, рекомендации или решения для заданного набора поставленных человеком задач (ГОСТ Р 71476-2024).

В современной экономике ИИ — это прежде всего маркетинговый термин, означающий принадлежность технического решения к сфере, связанной с применением технологий машинного (глубокого) обучения.

История развития понятия ИИ

Машинное обучение (machine learning)*

Программы машинного обучения позволяют компьютеру учиться решать задачи на основе множества примеров. После обучения он может сравнивать и классифицировать данные и даже распознавать сложные объекты.

До появления в 2010 году методов глубокого обучения выполнение таких программ осуществлялось под контролем человека. Так, при обучении распознаванию изображений использовались картинки, для которых вручную указывался представленный на них предмет – лицо человека, голова кошки и пр. По мере анализа таких аннотированных изображений система учится самостоятельно идентифицировать новые объекты.

Нейронная сеть (neural network)*

Математическая модель, а также ее программная и аппаратная реализация, построенные по образу сети нервных клеток мозга.

Хотя существующие нейронные сети устроены значительно проще, чем нервная система человека, они способны решать сложнейшие задачи: рассчитать скорость автомобиля на основании смещения педали акселератора и угла наклона дороги, определить прочность материала в зависимости от его химического состава и температуры его обработки, оценить платежеспособность предприятия на основании его оборота и т. д.

Глубокое обучение (deep learning)*

Передовые методы машинного обучения, позволяющие компьютеру самостоятельно учиться распознавать сложные объекты  – например, лицо, кошку и пр. – просматривая миллионы найденных в Интернете изображений, которые не были предварительно аннотированы человеком.

Глубокое обучение, основанное на сочетании алгоритмов машинного обучения, искусственных нейронных сетей и больших данных, позволило совершить прорыв в развитии искусственного интеллекта.

Модель ИИ

Модель искусственного интеллекта — программа для электронных вычислительных машин (ее составная часть), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуального труда человека или превосходящем их, использующая алгоритмы и наборы данных для выведения закономерностей, принятия решений или прогнозирования результатов.

* Определения приведены по глоссарию ЮНЕСКО по теме «Искусственный интеллект»

Функциональная классификация моделей ИИ

1. Прогностические модели: делают прогнозы на основе исторических данных, например, прогнозы фондового рынка или погоды.

2. Модели классификации: категоризируют данные по заранее определенным классам (например, для обнаружения спама).

3. Модели обучения с подкреплением: учатся на основе взаимодействия с окружающей средой (автономные средства передвижения).

4. Модели генеративного ИИ: создают новый контент, такой как текст, изображения или музыка.

Классификация моделей ИИ по инфраструктуре

1. Облачные сервисы

Это инструменты, к которым можно получить доступ через браузер и сразу применять в профессиональной деятельности.

• Готовые онлайн-сервисы (SAAS «как ChatGPT») — ChatGPT, Qwen, DeepSeek.
  Помогают писать тексты, проверять задания, создавать текстовые и графические материалы, генерировать задания, тесты, кейсы.

• Платформы с ИИ-модулями (PAAS), например, Google Workspace, Moodle с ИИ-плагинами, Copilot в Microsoft Windows, Siri в Apple iOS. Часто используются как инфраструктура для системы цифровых сервисов, в которую включены элементы ИИ: генерация контента, чат-боты, анализ данных (Google Notebook LM). ИИ интегрируется в знакомые пользователю системы, например, в операционную систему или систему дистанционного обучения: помогает формировать курсы, проверять задания, вести административную работу.
• Облачные модели, используемые по API.

2. Модели на собственной инфраструктуре организации (on-premise)

• Локальные модели. Подходят там, где есть чувствительные данные, закрытые контуры или требования РКН, ФСБ, ФСТЭК, Минобрнауки и тд.
  ИИ-модель работает внутри информационной сети (on-premise) организации и не отправляет данные в Интернет: удобно в условиях отключения от Интернета, незаменимо для обработки конфиденциальной информации.

• Собственные модели на облачных серверах
  Организация может разместить модель в защищённом облаке и адаптировать её под свои задачи (например, под юридические тексты, инженерные задачи, медицину).

Области применения генеративного ИИ в образовании

Свойства современных технологий ИИ и последствия их применения

1. Высокая скорость глобального распространения информационных систем, воспринимаемых как технологическое чудо.

См. Третий закон Кларка — «Любая достаточно развитая технология неотличима от магии». Горизонт планирования разработки и внедрения технологий сокращается до нескольких месяцев.

2. Возможность автономной работы без заранее заданного алгоритма на основе технологий машинного обучения.

Несмотря на схоластичность, проблема ответственности за применения технологий ИИ — фундаментальное ограничение их внедрения (беспилотные транспортные средства, системы в правоохранительной деятельности, медицине и образовании). См. Яндекс Джипититор.

3. Высокая стоимость обучения моделей ИИ устанавливающая запретительные барьеры для входа, проводящая к монополизации рынка и усиливающая цифровой разрыв.

Тренировку моделей могут позволить себе только крупные компании (Microsoft, Google, Tencent, Alibaba) что ведет к монополизации рынка базовых моделей. Остальные могут пользоваться open-source решениями, но с риском попасть в зависимость от поставщика.

4. Стигматизация пользователей систем искусственного интеллекта.

Мы относимся к системам ИИ строже, чем к человеку. Возможно, это результат искусственной антропоморфизации технологии.

Столь же строго общество относится к человеку, который имеет навыки применения технологий ИИ и пользуется ими для получения преимуществ в сравнении с другими людьми, не имеющими этих навыков.

Сценарии применения нейросетей в профессиональной деятельности

1. Вопросительный

Использование ИИ по аналогии с поисковой системой (Google, Яндекс и тд). Чтобы лучше разобраться в том, насколько такой подход к поиску в сети выгоден, рассмотрим сходства и различия между классическими поисковиками и нейросетями.

Сходства

Работают с данными из Интернета. И поисковые системы, и нейросети опираются на информацию из Интернета. Нейросети обучаются на больших массивах текстов, заранее собранных с веб-страниц, тогда как поисковики регулярно обходят сайты, сканируют их содержимое и создают индекс. Поэтому информация, предоставляемая нейросетью, основываются на менее актуальной информации, чем выдача поисковых систем.

Технологически интегрируются друг с другом. Нейросети всё чаще включают в состав поисковых сервисов (например, Microsoft Bing или Яндекс с его нейросетевыми инструментами), а сами нейросети могут использовать встроенный поиск, как в Perplexity.

Интеграция технологий ИИ в поиск Яндекса:

Различия

1. Принцип работы. Нейросети формируют ответ, «предсказывая» наиболее вероятный текст на основе выявленных математических связей между словами, что не всегда означает дословное воспроизведение фактических данных. Поисковые системы же собирают сведения о существующих веб-страницах, индексируют их и ранжируют, при этом не изменяют исходную информацию.

Способ взаимодействия с пользователем. Нейросети функционируют преимущественно в формате диалоговых чат-ботов, которые поддерживают разговорный интерфейс. Поисковики же традиционно работают через классическую строку поиска и страницу результатов выдачи.

Важно учитывать, что популярные системы ИИ предназначены для предоставления пользователю информации в режиме «одного окна», в отличие от поисковых систем, которые дают возможность выбора найденных материалов в сети. При использовании поисковых систем выбор информационного ресурса остается за пользователем, тогда как ИИ-сервис предоставляет единственный вариант ответа.

У пользователя остается меньше возможностей для применения методов критического мышления. Кроме того, современные модели ИИ подвержены атакам, формирующим тенденциозные точки зрения.

2. Ролевой

Ролевой характер взаимодействия с нейросетями заключается в том, что модель может быть искусственно помещена в заранее заданный контекст — профессиональный, коммуникативный или учебный. Это достигается с помощью методов промпт-инжиниринга, когда пользователь описывает желаемую роль (например, «ты — преподаватель», «ты — эксперт по цифровому праву», «ты — редактор научного текста»), а нейросеть адаптирует стиль, глубину и формат ответа под заданную позицию.

В поисковых системах ролевой режим отсутствует: они не «вживаются» в роль и не меняют модель поведения, поскольку выдают результаты поиска, а не генерируют ответы, основанные на симуляции профессиональной деятельности.

Таким образом, ролевой режим позволяет нейросети имитировать компетенции специалиста, что может повышать удобство получения информации, но одновременно создает риск иллюзии экспертности, если пользователь критически не оценивает полученный ответ.

3. Исследовательский

В ряде современных нейросетей появились исследовательские режимы (например, режимы размышления, анализа или «thinking»), при которых система выполняет более сложную внутреннюю многошаговую обработку запроса. Это позволяет модели формировать структурированное рассуждение, анализ причинно-следственных связей, предлагать варианты решений и проверять собственные промежуточные шаги.

Поисковые системы такой функциональности не имеют: они предоставляют ссылки на источники и краткие сниппеты, не проводя самостоятельного анализа или синтеза информации.

Исследовательские режимы в нейросетях позволяют получать более глубокие аналитические ответы, но при этом увеличивают риски генерации неправдоподобных, но логически оформленных выводов, что требует от пользователя дополнительных навыков проверки содержания.

Пример применения исследовательского режима DeepSeek: https://chat.deepseek.com/share/kq8r4elgjmv1tobgxr

4. Агентский

Агентские режимы предполагают постановку задач, требующих не только генерации текста, но и выполнения активных действий от имени пользователя — например, последовательных запросов к внешним данным, анализа файлов, запуска инструментов, планирования и выполнения многошаговых процедур.

Нейросеть в агентском режиме может сама определять, какие действия следует предпринять для достижения цели, и выполнять их в автономном или полуавтономном формате.

Агентские системы расширяют функционал ИИ-моделей, но одновременно создают дополнительные риски: от некорректного выбора действия до возможного предвзятого или ошибочного выполнения инструкций без достаточного участия пользователя.

Пример применения агентского режима в ChatGPT Plus (требуется VPN): https://chatgpt.com/share/691e1a86-4c10-8013-a626-c40e2f397db2

Риски и последствия

1. Снижение интеллектуального потенциала

Аргумент о каллиграфии против аргумента об охоте на мамонтов. Вероятно, в действительности интеллектуальный потенциал не снижается, а изменяются представления об характере и сложности задач, для решения которых требуется интеллектуальная деятельность. При применении технологий ИИ рутинной становится задача, которая ранее требовала творческой работы.

2. Деперсонализация общения

Сокращение возможностей для личного контакта участников коммуникации. Пример — использование ИИ обеими сторонами переписки. В образовании — феномен «академического сговора», когда обучающися и учитель заменяют личное общение обоюдным применением технологий ИИ.

При этом применение ИИ способно обеспечить индивидуализированный контакт с пользователем в масштабах, недоступных человеку.

3. Продолжение кризиса авторства

Неограниченные возможности для создания синтетического контента, формально нового, но не имеющего принципиальной новизны. ИИ сами по себе не может генерировать идеи или решения проблем реального мира, поскольку не понимает объекты реального мира или социальные отношения, лежащие в основе языка.

4. Углубление цифрового неравенства и технологического колониализма

Угроза для национальных языков

5. Инфляция инноваций

«Гонка ИИ-вооружений» в профессиональной деятельности.