В «Яндексе» рассказали о возможной ошибке китайского чат-бота
Дзен
Данные, связанные с технологиями «Яндекса», могли попасть в дата-сет для обучения нейросети DeepSeek — из-за этого китайский чат-бот может случайным образом воспроизвести информацию, которая относится к российской компании, и ошибочно утверждать, что он является YandexGPT, рассказали РИА Новости в пресс-службе «Яндекса».
Во вторник в Telegram-каналах появились скриншоты с ответами DeepSeek на вопрос «Кто умнее, ты или ChatGPT4», где китайский чат-бот сначала утверждает, что он является YandexGPT, а потом говорит, что это было недоразумение из-за технической ошибки в данных или случайной путаницы во время обучения.
«Многие нейросети обучаются на данных, доступных в интернете. Эти данные могут включать как оригинальные тексты, так и материалы, сгенерированные другими ИИ-системами. В случае с DeepSeek, вероятно, в ее дата-сет могли попасть данные, связанные с технологиями «Яндекса», так как в сети присутствуют публичные обсуждения, упоминания и отзывы о таких системах. Именно поэтому, когда модель генерирует ответ, она может случайным образом воспроизвести информацию, относящуюся к «Яндексу», в том числе ошибочно утверждая, что она является YandexGPT», — прокомментировали в «Яндексе».
Там объяснили, что обучение ИИ-моделей происходит не только в виде заучивания фактической информации, но и с пониманием стиля и контекста, где эта информация появляется. Кроме того, если DeepSeek генерирует ответ на русском языке, то повышается вероятность использования информации, связанной с «Яндексом», из-за популярности этих продуктов.
«Появление данной модели на рынке показывает важность развития рынка открытых решений. Мы активно участвуем в развитии опенсорса сами, и считаем, что важно поддерживать открытые разработки и развивать технологии, доступные всему сообществу», — оценили китайскую разработку в «Яндексе».
Основанная в Китае компания DeepSeek 20 января объявила о выпуске версии R1 ассистента на базе искусственного интеллекта, которая, как указано на ее сайте, не уступает ChatGPT. Соответствующее мобильное приложение после выпуска новой версии ассистента возглавило рейтинги в ряде стран. В частности, в магазине приложений Apple — App Store — ассистент DeepSeek занял первое место в США, Великобритании, ОАЭ, Японии, Южной Корее и Китае.
