Par l'autheur de llamacpp. Ca tourne apparemment avec un seul Macbook pro (M1 pro), à tester (en espérant que ça soit pas un poisson d'avril)
Et on a enfin notre chatgpt local qui est presqu'aussi bon que GPT-4, par des étudiants d'ivy leagues, ils ont mis une
démo à disposition mais réflechisse toujours sur la meilleure manière de mettre leur weight à disposition. Le plus intéressant c'est qu'ils ont payé - de 300$ pour obtenir de tels résultats, en "fine tunant" llama-alpaca sur 70k prompts disponibles
ici. En d'autres mots, c'est le premier chatbot (grauit car en local) qui menace le monopole d'OpenAI avec leur chatGPT (qui est toujours à GPT 3.5, sauf pour les premiums qui ont accès [au très bon] GPT 4)
Pour ceux qui ne parlent pas anglais, llamacpp a été adapté par des Français pour que l'AI parle Français (le github est quand même en Anglais, l'ironie)
French instruction-following and chat models. Contribute to bofenghuang/vigogne development by creating an account on GitHub.
github.com
(j'ai pas l'habitude de poster autant mais je découvre tous les jours de nouvelles choses intéressantes qui vaillent la peine d'être partagées
)