Добровольная маркировка ИИ-контента вступила в силу, но сразу же породила главный вопрос — зачем ставить пометку, если недобросовестные авторы всё равно её проигнорируют? Не превращает ли это нововведение в фикцию? О том, почему власти выбрали именно такой путь, чем это выгодно бизнесу и блогерам и как вообще собираются проверять "цифровое происхождение" материалов, KrasnodarMedia пояснил программист и эксперт в сфере IT Максим Марков.
Добровольная маркировка ИИ-контента вступила в силу. Фото: Из личного архива М. Маркова
По словам IT-специалиста, власти пока не ввели обязательную маркировку, поскольку ни одна существующая технология не определяет нейросетевой текст или изображение со стопроцентной точностью. Принудительный закон породил бы множество судебных исков от авторов, чью живую работу алгоритмы ошибочно приняли за творение ИИ, поэтому государство и выбрало добровольный формат.
— Недобросовестные авторы, конечно, проигнорируют эту норму, — для них маркировка так и останется пустым звуком. Но эффективность системы оценивают не по мошенникам, а по крупному бизнесу и СМИ. Им маркировка выгодна, ведь она служит своеобразным щитом в суде. Если ролик или статья вводят зрителя в заблуждение, наличие пометки "сделано с помощью ИИ" докажет, что компания не нанимала некомпетентного человека, а использовала алгоритм. Это снимает с бизнеса часть репутационной и юридической ответственности, — поясняет Марков.
Программист видит в новой системе прямые выгоды для всех участников рынка. По ео словам, бизнес получит возможность внедрять нейросети в рекламу и клиентские сервисы без страха, что клиенты сочтут это обманом.
— Блогеры, в свою очередь, превратят маркировку в маркер профессионализма, ведь публичное признание "я использую ИИ как рабочий инструмент" повышает доверие подписчиков. Аудитория же начнёт лучше ориентироваться в потоке информации — люди увидят чёткую грань между живым мнением эксперта и генерацией машины, — считает эксперт.
Добровольная маркировка ИИ-контента вступила в силу. Фото: Сгенерировано ИИ (18+)
Что касается проверок, то здесь, признаётся Максим Марков, ситуация пока тупиковая — надёжных инструментов для детекции нейросетей не существует, а современные сервисы ошибаются в обе стороны.
Поэтому контроль за маркировкой сейчас строят на цифровых метаданных, поскольку некоторые компании уже вшивают в файлы специальные водяные знаки и служебные теги. Позже, когда технологии шагнут вперёд, такие метки могут стать основой для автоматических проверок.
Программист называет принятое решение разумным. Однако добровольная маркировка не остановит создателей фейков, но зато запускает важный процесс — общество привыкает к мысли, что ИИ стал полноправным участником информационного поля.
— Это небольшой, но твёрдый шаг к прозрачности. Чем быстрее аудитория научится различать человеческий текст и машинную генерацию, тем сложнее будет манипуляторам выдавать своё враньё за единственно верную точку зрения, — заключил Максим Марков.
Рынок ИИ в России ждет жесткий лоббизм крупных корпораций — эксперт Программист Павел Солоха прокомментировал законопроект о развитии искусственного интеллекта в РФ
