Глава Y Combinator призвал не ограничивать дистилляцию закрытых ИИ-моделей в США

Генеральный директор акселератора Y Combinator Гарри Тан выступил за то, чтобы небольшие американские лаборатории могли обучать модели с открытыми весами на ответах передовых закрытых систем. Он отделил такую работу через штатный API-доступ от скрытых кампаний с поддельными аккаунтами и украденными ключами.

Генеральный директор акселератора стартапов Y Combinator Гарри Тан призвал американских регуляторов не запрещать дистилляцию закрытых ИИ-моделей. По его мнению, небольшие лаборатории из США должны иметь возможность использовать ответы ведущих коммерческих систем для обучения собственных моделей с открытыми весами.

При дистилляции более мощная модель выступает в роли «учителя»: сгенерированные ею ответы становятся обучающими данными для менее крупной модели. Тан говорит о работе через штатный доступ к API, без кражи учётных данных и создания мошеннических аккаунтов.

Руководитель Y Combinator считает, что владельцы закрытых моделей не должны полностью определять, как клиенты используют полученные через API ответы. Развитие независимых моделей с доступными весами, по его словам, также снизит риск концентрации передовых ИИ-технологий у одного поставщика.

Эта позиция расходится с подходом Anthropic. В сентябрьском отчёте компании говорится о выявленных кампаниях семи китайских лабораторий, которые массово собирали ответы Claude с помощью прокси-сетей, поддельных аккаунтов, украденных платёжных данных и API-ключей. Anthropic называет такие операции незаконной дистилляцией и блокирует связанные с ними учётные записи.