TikTok приостанавливает тестирование ИИ-суммаризаций: алгоритмы путали факты

TikTok приостанавливает тестирование своей функции искусственного интеллекта под названием AI Overviews, предназначенной для автоматического создания кратких текстовых описаний под видеороликами. Функция находилась в стадии эксперимента, однако результаты её работы оказались далеки от ожидаемых.

Пользователи заметили, что алгоритмы порой выдают совершенно неверные толкования содержания видео. Например, под одним из роликов с рецептом была опубликована сгенерированная подпись, не имеющая отношения к теме. Наиболее яркий случай — описание видео о блюде из ягод, где AI заявил, что это, вероятно, черника. Это привело к появлению мема и волне критики.

Проблемы точности ИИ

Несмотря на то, что AI Overviews создавался как инструмент для улучшения пользовательского опыта — чтобы сразу давать контекст видео без его просмотра, — на практике он часто давал сбои. Вместо чёткого и краткого описания появлялись бессвязные или откровенно ложные утверждения.

Представители TikTok признали, что алгоритмы ещё не готовы к полноценному запуску. Было решено временно отключить функцию и вернуться к этапу доработки, чтобы минимизировать количество ошибок и повысить точность распознавания контента.

Реакция сообщества и дальнейшие шаги

Новость о приостановке тестирования вызвала неоднозначную реакцию. С одной стороны, пользователи одобрили решение платформы не выпускать недоработанный продукт в открытый доступ. С другой — у многих возникли сомнения в принципиальной способности ИИ корректно обрабатывать мультимодальный контент.

Пока неизвестно, когда именно AI Overviews вернется в тестовый режим. В TikTok обещают провести дополнительное обучение нейросетей и устранить выявленные недочеты. Вполне возможно, что функция будет запущена с более строгими фильтрами и возможностью ручной модерации.

Этот инцидент вновь поднимает вопрос о границах применения искусственного интеллекта в социальных сетях. Платформам приходится искать баланс между инновациями и надёжностью, чтобы не подрывать доверие аудитории.