Детские сказки стали учебным материалом для нового ИИ от Microsoft
Интересный подходЭто первая из трех небольших моделей, анонсированных компанией. Phi-3 Mini насчитывает 3.8 млрд параметров и обучена на меньшем объеме данных по сравнению с крупными языковыми моделями вроде GPT-4.
Сейчас модель доступна на Azure, Hugging Face и Ollama.
Компания выпустила Phi-2 в декабре, она показывала результаты наравне с более крупными моделями (например, Llama 2). В Microsoft утверждают, что Phi-3 работает еще лучше предшественницы и дает ответы, сравнимые с моделями, в 10 раз превосходящими ее по размеру.
Компактные ИИ-модели обычно дешевле в эксплуатации и лучше работают на персональных устройствах – телефонах и ноутбуках. Microsoft сформировала команду, фокусирующуюся именно на легковесных ИИ-моделях.
Разработчики обучали Phi-3 по специальной «программе», вдохновленной детским обучением: сказки, книги с простым языком и упрощенное изложение сложных тем.