Искусственный интеллект и охрана труда: новое знание или сложная задача?

17.06.2024
Искусственный интеллект и охрана труда: новое знание или сложная задача?

Умение правильно формулировать запросы для искусственного интеллекта (ИИ) в сфере производственной безопасности действительно становится ключевым навыком, сравнимым по важности со знанием законодательства в области ОТ и ПБ.


Для запуска ИИ в безопасное производство требуются инженеры с глубоким пониманием работы нейросетей. Это не просто вопрос разработки или установки программы, а скорее комплексная задача, требующая экспертизы в разных областях.


Запуск такого инновационного решения проходит несколько важных этапов, каждый из которых находится под контролем компетентных профи.


Давайте разберём эти этапы подробнее:


Разработка модели начинается с выбора архитектуры, когда специалист под конкретную задачу в сфере безопасности, учитывая типы данных, сложность анализа и желаемые результаты, останавливает свой выбор на оптимально подходящей архитектуре нейросети. Важным в данном вопросе является то, что нужно правильно подготовить данные для обучения модели - очистить их от ошибок, преобразовать в нужный формат, разбить на обучающие и тестовые наборы.

 

Переходя к обучению модели, оптимизируются параметры обучения, происходит настройка алгоритмов и выбор метрик оценки эффективности. Дальнейшая проверка и валидация строится на оценке работы модели на тестовых данных, анализе ошибок и, если необходимо, модель дорабатывается.

 

Интеграция ИИ в производственные процессы происходит с определения совместимости модели с существующими системами управления производством. Перед операторами и инженерами встаёт задача по разработке удобного и понятного интерфейса, ключевыми аспектами которого становятся: понимание аудитории пользователей, простой и интуитивный дизайн, эффективность и функциональность, прозрачность и обратная связь. В последующем необходимо обеспечить непрерывный мониторинг работы модели, отслеживание ее производительности, решение возникающих проблем и обновление модели при необходимости.


Немаловажным является и организация поддержки пользователей, например, через часто задаваемые вопросы (FAQ) или службу поддержки. Нужно помнить, что поддержка работы программы — это не разовая акция, а непрерывный процесс. Только с помощью комплексного подхода можно обеспечить бесперебойную работу программы и ее постоянное улучшение.

 

Заключительный этап - обеспечение безопасности применения ИИ, где противодействие несанкционированному доступу является гарантом защиты модели и данных от злонамеренного использования. Сохранение прозрачности работы модели позволяет понять, как она принимает решения, что несёт с собой несколько важных преимуществ: доверие (когда ясна логика работы модели, возрастает уровень доверия к её выводам и решениям), устранение ошибок и, как следствие, улучшение модели (когда понимание внутреннего устройства показывает, как модель приходит к неверному выводу и это позволяет её совершенствовать, добавлять новые функции и повышать точность).

 

Когда есть установленные четкие правила ответственности в случае ошибок или сбоев в работе ИИ, тогда есть понимание, что разработчики уделяют достаточно внимания как этичной стороне вопроса, так и юридической и социальной безопасности.

 

Тогда возникает необходимость в следующих подходах к решению:

  1. разработка специальных законов (где правовые нормы смогут регулировать ответственность за ошибки ИИ);
  2. введение стандартов безопасности (создание индустриальных стандартов для разработки и использования ИИ);
  3. создание органов регулирования (для координации развития и контроля безопасности ИИ);
  4. страхование от рисков, связанных с ИИ (создание системы страхования для компенсации ущерба, причинённого ошибками ИИ).

 

В современном мире ИИ и нейронные сети играют всё более важную роль в различных сферах человеческой деятельности. Чтобы полностью реализовать потенциал ИИ, необходимо не только улучшать саму технологию, но и обеспечить эффективное взаимодействие специалистов из разных областей:

 

  • Инженеров по охране и безопасности труда: для определения конкретных задач, которые может решать нейросеть.
  • Инженеров-разработчиков: для интеграции ИИ-системы в существующую инфраструктуру, будь то производственный процесс или программный продукт.
  • Специалистов по данным: их знания позволяют эффективно структурировать и использовать данные для получения качественной модели.


Сотрудничество различных специалистов является важным условием для успешного создания и внедрения систем на основе искусственного интеллекта.


Так и в нашем программном продукте «Системы безопасности и охраны труда» - разработке команды проекта ot-soft.ru на сегодняшний день реализована возможность роботизированного создания инструкции по охране труда для сотрудника с учётом его профессии, рабочего места, вредных факторов и т.д. Программа обращается к нейросети с запросом формирования инструкции с заданными данными и результат передаётся сотруднику.

 

  

 

Ольга Одинцова

Методист по программным продуктам