На днях была встреча представителей «Сбера» с прокуратурой. И там первые высказали мнение, что разработчики нейросетей не должны отвечать за нарушающие законодательство изображения или текст, сгенерированные пользователями сервиса. Вопрос этот не так прост, как кажется. TexTerra разобралась в нем, а заодно внимательно прочитала пользовательские соглашения нейросетевых сервисов и выяснила, кто и когда будет отвечать за генерацию противоправного контента.
Например, в MidJourney вы вольны как угодно использовать созданное вами изображение, но то же самое с вашей работой могут делать и другие пользователи. Однако при генерации с включенным режимом Private Mode в MidJourney вы получаете «эксклюзивные» права на изображения — другие пользователи не могут без разрешения распространять вашу работу.
Но с авторскими правами на работы приходит и ответственность за их содержание. Нейросеть — лишь инструмент, она выдает готовую работу по вашему запросу. А вы уже решаете, как с ней поступить — распространять где-то, удалять, сохранить себе любимому. Логично, что и ответственность за распространение противозаконного изображения должен нести пользователь.
С другой стороны, разработчики нейросетей стараются обезопасить себя и пользователей от противозаконных действий, поэтому в большинстве алгоритмов установлены фильтры на стоп-слова: определенный контент нейросеть откажется генерировать или «пропустит мимо ушей». Например, это касается генерации «обнаженки» и фейковых изображений известных личностей или мест.
С одной стороны это кажется логичным, но с другой — разве разработчики нейросети не должны ограничивать возможность генерации неправомерной информации? Сказать на самом деле проще, чем сделать. Это стало понятно еще осенью прошлого года, когда ChatGPT только вышел на рынок — пользователи начали делиться историями, как им удалось путем изощренного запроса заставить нейросеть обойти наложенные на нее ограничения. Впрочем, OpenAI постепенно закрывает все лазейки для таких уловок.