Découvrez GPT-JT, l'alternative open source la plus proche de GPT-3 : JAG

Table des matières

Récemment, Together, une communauté open source dirigée par des chercheurs et des technocrates, a publié une nouvelle version de GPT-JT formée sur six milliards de paramètres. Ce nouveau modèle a été construit en utilisant des techniques et des ensembles de données open source récemment publiés et a été entraîné avec son approche décentralisée sur l'ordinateur de recherche Together.

Contrairement à GPT-3, qui est disponible on-demand/request, GPT-JT est maintenant disponible en Open Source.

Cliquez ici pour accéder aux codes sources et Dataset.

GPT-JT

GPT-JT s'est très bien approché de GPT-3, text-davinci-002 (175B) en termes de performance sur les benchmarks de classification tels que RAFT (suivant le protocole d'évaluation holistique des modèles de langage (HELM)).

Together a affirmé que ce nouveau modèle est une variante du précédent GPT-J (6B) et se débrouille bien sur la classification de texte et d'autres tâches. S'appuyant sur la puissance de l'IA open source, l'équipe a déclaré que cela n'aurait pas été possible sans les travaux open source publiés par plusieurs organisations, dont EleutherAI (GPT-J-6B, GPT-NeoX), Google Research (UL2, CoT), Natural-Instructions (NI) dataset d'AllenAI, BigScience's Public Pool of Prompts (P3) dataset, Ought (RAFT) et Stanford CRFM (HELM).

Ouvert. Évolutif. Ensemble

Fondée en 2022, Together est un cloud décentralisé pour l'intelligence artificielle qui permet aux chercheurs, développeurs et entreprises de profiter et d'améliorer l'IA avec une plateforme intuitive combinant données, modèles et calcul. L'équipe a déclaré que leur modèle GPT-JT était inspiré par lo-fi et ProxSkip, développé par Ludwig Schmidt, Mitchell Wortsman, Peter Richtárik et d'autres. La société a hébergé ce modèle via HuggingFace, qui est le hub de l'écosystème open source d'IA.

Consultez la démo en direct ici

Une question ? Un besoin ? Un projet ?

Notre sélection d'informations
web chaque vendredi

Tout savoir sur l'algorithme Instagram 2022

Vous souhaitez en savoir un peu plus sur l’algorithme d’Instagram ? Vos followers ne voient plus vos publications ? L’algorithme Instagram est un véritable casse-tête pour vous et vous avez besoin d’aide ? Pas de panique, nous sommes là pour vous aider. Tous les ans, le logiciel Instagram fait une refonte de son algorithme afin de proposer un […]

Comment les chatbots et assistants virtuels révolutionnent l'expérience client en ligne ?

L'utilisation de chatbots et d'assistants virtuels pour les entreprises est de plus en plus populaire, et il y a de bonnes raisons à cela. Les chatbots et les assistants virtuels peuvent aider les entreprises à améliorer leur expérience client, à automatiser certaines tâches répétitives et à répondre rapidement aux demandes des clients. Améliorer l'expérience […]

C’est quoi un CDN ?

Content Delivery Network (CDN) : Système de serveurs positionnés stratégiquement dans le monde entier. Ces serveurs maintiennent et accélérent votre contenu. Les principaux objectifs d’un CDN sont la vitesse, l’évolutivité et la haute disponibilité. Une demande d’utilisateur sera toujours acheminée vers le point de présence (POP) le plus proche. La distance de l’utilisateur vers ces serveurs a un […]

Expert SEO : Compétences et techniques de référencement

L’expert SEO est le professionnel du référencement d’un site Web, celui dont les talents sont les plus recherchés actuellement. Ce technicien de l’optimisation déploie une stratégie digitale pour que votre site obtienne une visibilité accrue. Afin de propulser votre business, n’hésitez pas à consulter un expert SEO, il mettra en valeur vos produits et il […]