Кажется, эпоха беззаботного цифрового творчества подходит к концу. Минцифры разработало проект закона о госрегулировании искусственного интеллекта, и если его примут, то с 1 сентября 2027 года у нас наступит новая эра — с чёткой иерархией, обязанностями и, конечно, зоной ответственности.
Законопроект вводит четыре новых действующих лица:
Разработчик ИИ-модели — тот, кто нейросеть родил и обучил. Теперь ему придётся документировать архитектуру и логику её работы в том объёме, который удовлетворит Минцифры.
Оператор ИИ-системы — человек, который эту систему запустил в эксплуатацию. Его новая обязанность — вести учёт инцидентов. Если ИИ вдруг решит, что склад нужно удвоить, а договоры — расторгнуть, это станет не просто проблемой бизнеса, а официально зарегистрированным происшествием. И его потом придётся долго объяснять.
Владелец ИИ-сервиса получает, пожалуй, самую заметную роль: он обязан маркировать контент, сгенерированный нейросетью. Причём если сервис популярен (более 100 тысяч пользователей в сутки), владельцу также вменяется следить за чужим контентом — маркировать или удалять то, что не промаркировали другие. Потому что теперь цифровая гигиена — это не про «хороший тон», а про обязанность.
И наконец, пользователь. От него требуется не использовать ИИ в противозаконных целях. Скромно, но тоже надо постараться.
В вопросах ответственности законодатели проявили истинную виртуозность. Разработчики, операторы и владельцы будут отвечать соразмерно степени своей вины. Если они заведомо знали или должны были знать, что их ИИ-система способна на противоправный результат, но ничего не сделали, — наказание закономерно. Формулировка «должен был знать» — это, конечно, отдельный вид искусства. Пользователь, в свою очередь, рискует в том случае, если он умышленно воспользовался преступным плодом работы алгоритма или пренебрёг условиями использования. То есть суду предстоит в каждом конкретном случае разбираться: это алгоритм самодур, руки кривые или халатность при обучении модели. Обещают, что все получат ровно столько, сколько заслужили. Ну-ну…
Для бизнеса это означает простую и крайне увлекательную перспективу: «просто поиграться с ИИ» больше не получится. Если нейросеть уже работает в вашей CRM, генерирует контент или принимает решения, самое время выяснить, кто у нее родитель, задокументированы ли ее ограничения и готовы ли вы в случае чего подтвердить, что не «должны были знать» о ее склонности к вольной трактовке законов. Документооборот обещает стать богаче, риски — конкретнее, а споры о виновности алгоритмов — любимым развлечением корпоративных юристов.