Крайне интересная статья Брюса нашего Шнайера! С огромным интересом прочитала.
Все мы уже видели, что, когда вводишь запрос в одном из основных поисковиков, сверху вылезает краткая справка по теме, составленная ИИ. Например:

Немецкий суд постановил, что, если информация в такой ИИ-справке неверна — а с ИИ это случается сплошь и рядом, — Гугель несёт за неё ответственность. И тут получается интересный правовой казус.
Вот почему, если на первой странице сайта Нью-Йорк Таймс написано, что Мишель Обама — на самом деле переодетый мужЫк, то Нью-Йорк Таймс можно привлечь к ответственности за клевету, а если то же самое напишет Вася Пупкин в Фейсбуке, то сам Фейсбук привлечь к ответственности уже нельзя?
А потому, что между этими случаями есть существенная правовая разница: Нью-Йорк Таймс является издателем информации, а Фейсбук — лишь техническим посредником, на платформе которого её разместил посторонний человек.
Ровно так же нельзя привлечь к ответственности телефонную компанию за то, что её связью пользовались какие-нибудь бармалеи-террористы. Телефонная компания передаёт разговор, но не сочиняет его содержание.
Так вот, решение немецкого суда переводит Гугл из разряда технических посредников в издатели. Написанное его ИИ суд посчитал уже высказыванием самой компании — результатом её собственной коммерческой деятельности, — а не информацией, опубликованной непричастными посторонними людьми.
В Соединённых Штатах эта область регулируется прежде всего секцией 230 Закона о Пристойности в Коммуникациях 1996 года (Communications Decency Act). В ней говорится, что поставщик интерактивного компьютерного сервиса не должен считаться издателем или автором информации, предоставленной другим создателем контента.
Но закон этот был написан уже тридцать лет назад и применялся к технологиям тех лет. С тех пор много воды утекло. Тот же Фейсбук теперь не просто показывает тебе посты граждан в обратном хронологическом порядке, а творчески их обрабатывает: решает, что именно тебе подсунуть, в какой последовательности, и сколько раз подряд заставить тебя это увидеть.
Поэтому многие считают, что законы тридцатилетней давности к современным социальным сетям в их нынешнем виде уже не вполне применимы и нуждаются в переработке. Другие, правда, возражают, что без секции 230 современный интернет в его нынешнем виде вообще не смог бы существовать.
А теперь в этот и без того замудрённый салат щедрой рукой налили заправки в виде систем ИИ.
В отличие от обычного поисковика, который показывает ссылки или цитирует чужие страницы, ИИ же не просто передаёт чужой текст. Он перерабатывает информацию, переформулирует её и создаёт новый ответ. То есть с точки зрения закона занимается чем-то подозрительно похожим на редакторскую и издательскую деятельность.
В общем, автономный ИИ в интернетах ждёт интересное правовое будущее. Если суды продолжат признавать компании ответственными за ошибки применяемых ими систем ИИ — что, на мой взгляд, вполне справедливо, — то многие нынешние способы применения ИИ могут оказаться попросту экономически нежизнеспособными.
Не обязательно все чат-боты закончатся, толком даже не начавшись. Но компаниям, возможно, придётся либо радикально повышать их надёжность, либо отвечать за слова и действия своих электронных агентов ровно так же, как они отвечают за слова и действия агентов человеческих.
На пороге новых законов стоим! Следите за событиями — будет интересно.
Via: Bruce Schneier, “AI and Liability”
https://www.schneier.com/blog/archives/2026/06/ai-and-liability.html





