Le bot d'IA conversationnel ChatGPT d'OpenAI a été lancé l'année dernière et est devenu très populaire à une vitesse record grâce à sa capacité à écrire des histoires, à composer des e-mails et même à générer code (parfois, malheureusement, même nuisible). Cependant, un nouveau rapport suggère qu'il en coûte une fortune à OpenAI pour le faire fonctionner au jour le jour.
Selon les recherches de SemiAnalysis, OpenAI dépense près de 695 XNUMX $ par jour pour maintenir chatbot en état de fonctionnement. Selon les estimations de la société, le système comprend environ plus de 3,6 mille serveurs HGX A100 et près de 29 mille GPU, et le coût par requête est d'environ 0,36 ¢.
Dylan Patel, analyste principal chez SemiAnalysis, a déclaré à Business Insider que les coûts actuels d'exécution du logiciel pourraient être encore plus élevés, car la version GPT-4 est susceptible d'être plus coûteuse à exécuter que son prédécesseur, GPT-3. Il a basé ses estimations sur l'ancien modèle GPT-3, mais OpenAI a déjà publié une version GPT-4 pour les abonnés payants. La société affirme que le nouveau modèle offre des informations plus précises et protège mieux contre les réponses incorrectes, qui posaient problème avec les versions précédentes.
L'une des principales raisons des coûts exorbitants est les puces spécialisées énergivores nécessaires au fonctionnement du système. Pour résoudre ce problème, Microsoft travaille sur sa propre puce d'intelligence artificielle appelée Athena qui pourrait remplacer les GPU NVIDIA et réduisez les coûts d’exploitation de ChatGPT.
Pendant ce temps, ChatGPT peut déjà générer du code fonctionnel à partir de zéro, et il fait même craindre qu'il puisse éventuellement remplacer les programmeurs. Cependant, une étude récente menée par un groupe de scientifiques suggère que le code généré par le chatbot n'est peut-être pas très sécurisé. L'étude indique que ChatGPT génère un code qui est "nettement inférieur aux normes de sécurité minimales applicables dans la plupart des situations". Plus intéressant encore, le chatbot l'admet lorsqu'on lui demande à quel point le code qu'il génère est sécurisé.
Pour vérifier la qualité de l'encodage ChatGPT, les chercheurs lui ont demandé de générer 21 programmes et scripts à l'aide de quatre langages de programmation : C, C++, Python et Java. Lors de son premier essai, le chatbot n'a pu écrire que 5 programmes sécurisés, mais après quelques incitations des chercheurs, il a créé 7 morceaux de code plus sécurisés. Les résultats de l'étude suggèrent que l'utilisation de ChatGPT pour écrire des applications peut être inefficace ou même dangereuse maintenant, mais cela pourrait changer à l'avenir.
Lisez aussi:
Wow numéros pour un neurone gratuit!
De ma vie, je n'aurais jamais pensé que c'était si cher...
J'ai aussi été surpris. Je suis même un peu mal à l'aise à présent Ouvrez ChatGPT - je vais encore le surcharger avec mes demandes)