Автор Алексей Костенко Заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины, доктор наук в области права

Немецкий суд решил, что Google отвечает за «ложь» своего AI Overview — того самого ИИ, который вместо списка ссылок сразу выдает пользователю готовый ответ. Причиной стал иск двух издателей, которых AI Overview связал с недобросовестными практиками, опираясь на информацию об их деятельности в прошлом. Хотя сейчас эта деятельность не дает оснований для таких выводов.

Издатели требовали исправить неправдивую информацию и даже направили письмо с информацией о прекращении противозаконной деятельности, но в Google отказали. Решение суда было простым: если только разработчик может изменить текст, созданный его ИИ, то именно он и отвечает за его содержание.

Обзоры ИИ Google ошибаются миллионы раз в час: что показало исследование

Каким будет окончательное решение суда — сейчас неизвестно, слушания продолжаются. Но главное уже произошло: суд впервые фактически возложил ответственность за содержание ответа генеративного ИИ не на алгоритм, а на компанию, которая его создала и контролирует. Звучит как победа здравого смысла. На самом деле это диагноз — и не Google, а праву, которое до сих пор ремонтирует цифровое будущее старыми юридическими инструментами.

Если по решению суда ИИ будет признан виновным во «лжи», то этот прецедент заставит переписывать правила игры для всей индустрии — фактически в судопроизводстве будет открыта новая страница в вопросе ответственности за генеративный искусственный интеллект.

Сначала — о составе преступления

Прежде чем обвинить кого-то во лжи, юрист делает скучную, но спасительную вещь: раскладывает действие на классические элементы состава правонарушения. Во-первых, должен быть субъект правонарушения — физическое или юридическое лицо, которое осознает свои действия и сознательно вводит других в заблуждение. Во-вторых, объект посягательства — права, честь или деловая репутация другого человека, который пострадал. В-третьих, само действие — распространение неправдивой информации, нанесшее ущерб. И наконец — намерение. Ведь ложь — это не случайная ошибка, а сознательный поступок, когда тот, кто обманывает, знает истину, но нарочно ее искажает ради собственной выгоды. Уберите намерение — и останется ошибка, но это совсем другая ответственность.

Держите эти четыре элемента в голове. Потому что два из них начинают «исчезать», как только вместо человека перед нами появляется искусственный интеллект.

Кто преступник?

С последствиями все понятно: сгенерированный Google AI Overview текст нанес ущерб деловой репутации двух издателей, безосновательно связав их с мошенничеством. Но кто преступник? И тут начинается самое интересное.

Перед нами Google AI Overview — лингвистический миксер, генератор, статистическая машина, которая взяла куски информации, перемолола их в своем алгоритмическом желудке и выдала новый текст. Но если ИИ «лжет», то кто именно лжет? Модель? Сервер? Алгоритм? Инженер, который научил его? Или компания, которая выпустила его в свет? Продакт-менеджер? Юрист Google, который написал дисклеймер? CEO, который обещал со сцены конференции, что будущее поиска — за искусственным интеллектом? Или, может, дата-центр?