OpenAI уволила нескольких подрядчиков, использовавших искусственный интеллект при обучении и оценке моделей компании. Как пишет 404 Media, трое из этих подрядчиков рассказали, что применение ИИ во время работы нарушает правила.
OpenAI нанимает тысячи подрядчиков для анализа ответов ChatGPT и оценки их качества, чтобы улучшать модели. В некоторых проектах количество таких работников может превышать 10 тысяч. Их участие важно, так как человеческая оценка помогает в дальнейшей обучении систем.
Проблема возникает, если сотрудники применяют ChatGPT или другие ИИ-инструменты для выполнения своих задач. Внутренние инструкции запрещают подрядчикам использовать ИИ, особенно при написании отзывов, комментариев или оценке работы других людей. По словам источников 404 Media, за такие нарушения работников отстраняли.
Это связано с качеством данных: если модель обучается в основном на контенте от других нейросетей, со временем может ухудшаться её качество, что называют model collapse. Поэтому OpenAI настаивает на сохранении человеческого фактора в оценке и подготовке данных.
Ситуация выглядит как парадокс: OpenAI развивает технологии для автоматизации, но ограничивает их использование теми, кто участвует в обучении ИИ. Компания пока публично не сообщала о точном числе уволенных подрядчиков или конкретных случаях нарушений.