Lithanessa
Elite
mais du coup peut on lui dire qu’il se trompe quand il a raison et donc si on est suffisamment nombreux lui faire faire des calculs erronés ?
OpenAI: La fin de Google et de l'enseignement traditionnel ?
![[Clad]](/data/avatars/m/0/257.jpg?1648905584){kind=avatar}
[Clad]
Manipulateur de bits
si vous saviez ce qu'on peut faire à des IA, ça fait peur niveau sécurité
mais c'est un topic chaud, donc ca avance (tant en attaque qu'en défense)
je regarde d'ailleurs ces points
EINST
⭐⭐⭐⭐⭐
Pour le moment, il ne retient pas forcément tout d'une session à l'autre.
Mais ils pourront éventuellement le faire.
Edit : euh, j'ai pas essayé de corriger une réponse pour qu'il sorte un truc faux. Il refaisait un développement et justifiait la réponse.
Et oui, ça peut être un risque. Si tu l'utilises bêtement pour répondre à une question comme tu pourrais faire en consultant un moteur de recherche, il te donne un certain résultat. Dans un moteur de recherche, tu sais bien qu'il vaut mieux parfois regarder plus bas et tu vois directement la source. Mais on peut aussi influencer un moteur de recherche.
Là sa force, ça reste l'automatisation et il sait bien enrober une réponse.
Pour les math, il y avait déjà des moteurs plus puissants.
'fin c' est vraiment très intéressant et il faut sérieusement s'y intéresser (objet du thread).
Dernière édition:
@lex
Elite
J'ai tout de suite pensé la même chose. Et je pense qu'il ne faut pas être nombreux, en fait plus le truc est complexe (pour lui), moins il faut être nombreux.
Il suffirait de tester, je cherche toujours un numéro jetable qu'il accepte pour m'enregistrer.
Ah ben ça c'est un test à faire: lui demander de m'enregistrer
gregsting
Chat!
Le truc c'est que comme beaucoup de gens vont se tromper, il va récupérer ce mauvais raisonnement parce que c'est la réponse la plus fréquenteIl doit encore apprendre…
horny
Elite
Il doit encore apprendre…
On dirait qu'il s'entraine avec les réponses des quidams sur facebook
StarflaM
Elite
C'était le matin... j'ai sorti mon bic et mon crayon, c'est bon
1er
OP
Anewone
Elite
Combien ça coûte et quelle infrastructure pour faire tourner ChatGPT
L@rgo_XIII
G33K
C'est assez épatant et intéressant !
Clairement on ne peut pas passer à côté de ces progrès là.
Il faut évidemment l'utiliser en en connaissant les forces et faiblesses.
Au niveau Dev, il donne des réponses qui paraissent limpide et bien propre comme une doc officielle, mais ce n'est pas toujours correct.
Par rapport à StackOverFlow (SOF) on perd quand même toute l'info indirecte (les votes etc..) qui permet de voir rapidement si c'est une réponse valable ou exotique ...
Voici un exemple de question qui est un peu technique. Il y réponds bien.
Je lui ai demandé la même avec un upload vers S3 et là il m'a proposé d'utiliser une Action "uploadS3" qui est un truc "exotique"et pas officiel de AWS.
Alors qu'en fait je peux le faire avec une simple ligne de commande AWS CLI.
=> Ca peut permettre d'accélérer les recherche, mais il faut garder son esprit critique, son expérience et sa vista pour extraire ce dont on a vraiment besoin.
Clairement on ne peut pas passer à côté de ces progrès là.
Il faut évidemment l'utiliser en en connaissant les forces et faiblesses.
Au niveau Dev, il donne des réponses qui paraissent limpide et bien propre comme une doc officielle, mais ce n'est pas toujours correct.
Par rapport à StackOverFlow (SOF) on perd quand même toute l'info indirecte (les votes etc..) qui permet de voir rapidement si c'est une réponse valable ou exotique ...
Voici un exemple de question qui est un peu technique. Il y réponds bien.
Je lui ai demandé la même avec un upload vers S3 et là il m'a proposé d'utiliser une Action "uploadS3" qui est un truc "exotique"et pas officiel de AWS.
Alors qu'en fait je peux le faire avec une simple ligne de commande AWS CLI.
=> Ca peut permettre d'accélérer les recherche, mais il faut garder son esprit critique, son expérience et sa vista pour extraire ce dont on a vraiment besoin.
Suntheran
Fléau des Hordes Mongoles
C'est tout con mais pour les FAQ d'entreprises (genre comment introduire une demande RH, ou une procédure IT spécifique) ça peut vraiment changer la donne.
Dans ma boîte actuelle la doc est disséminée entre 3-4 plateformes différentes, c'est vraiment le chaos.
L@rgo_XIII
G33K
Sauf que si tes docs sont pas à jours et/ou mélangent plusieurs versions ....
L'IA elle va te sortir un truc "plausible" mais ce sera de la merde.
Il faut pas croire que tout ça est sans efforts et se fait facilement.
Il faut entraîner le modèle avec de BONNES données.
Ici ça parait facile car ils se basent sur un ENORME input de toute la "communauté" et donc statistiquement ça doit aider à balayer les erreurs.
Si le seul peye qui entraine le modèle de ta FAQ HR c'est Gérard "rien à battre", ben t'auras quand même un chatbox de merde
NeoGeek
Elite
Clairement !
[Clad]
Manipulateur de bits
Ah oui, j'espère que lorsque vous utilisez des AI vous n'êtes pas trop sensible à la cause environnementale.
aclanthology.org
Un article plus simple à lire avec un titre résumant l'article :
"Training a single AI model can emit as much carbon as five cars in their lifetimes
Deep learning has a terrible carbon footprint."
www.technologyreview.com
Du coup, de plus en plus de conf sur l'AI demandent aux chercheurs d'indiquer/évaluer l'emprunte carbone de nos recherches.
Energy and Policy Considerations for Deep Learning in NLP
Emma Strubell, Ananya Ganesh, Andrew McCallum. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics. 2019.
Un article plus simple à lire avec un titre résumant l'article :
"Training a single AI model can emit as much carbon as five cars in their lifetimes
Deep learning has a terrible carbon footprint."
Training a single AI model can emit as much carbon as five cars in their lifetimes
Deep learning has a terrible carbon footprint.
www.technologyreview.com
Du coup, de plus en plus de conf sur l'AI demandent aux chercheurs d'indiquer/évaluer l'emprunte carbone de nos recherches.
Benji
It's caturday!
T'as des exemples? J'suis curieux mais pas du domaine
NeoGeek
Elite
Ben si on se fie au gros titre , c'est super économe non ?Ah oui, j'espère que lorsque vous utilisez des AI vous n'êtes pas trop sensible à la cause environnementale.
Energy and Policy Considerations for Deep Learning in NLP
Emma Strubell, Ananya Ganesh, Andrew McCallum. Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics. 2019.
Un article plus simple à lire avec un titre résumant l'article :
"Training a single AI model can emit as much carbon as five cars in their lifetimes
Deep learning has a terrible carbon footprint."
Training a single AI model can emit as much carbon as five cars in their lifetimes
Deep learning has a terrible carbon footprint.
Du coup, de plus en plus de conf sur l'AI demandent aux chercheurs d'indiquer/évaluer l'emprunte carbone de nos recherches.
parce que l'équivalent de 5 voitures pour un truc qui va changer la vie de centaines de millions de gens ,c'est quedal.
[Clad]
Manipulateur de bits
Oui.
[Clad]
Manipulateur de bits
le nombre d'entreprise et de gens qui veulent foutre de l'AI PARTOUT faut payer le cout bien souvent
Suntheran
Fléau des Hordes Mongoles
Ah oui clairement, mais ça pourrait être au moins un pas dans la bonne direction.Sauf que si tes docs sont pas à jours et/ou mélangent plusieurs versions ....
L'IA elle va te sortir un truc "plausible" mais ce sera de la merde.
Il faut pas croire que tout ça est sans efforts et se fait facilement.
Il faut entraîner le modèle avec de BONNES données.
Ici ça parait facile car ils se basent sur un ENORME input de toute la "communauté" et donc statistiquement ça doit aider à balayer les erreurs.
Si le seul peye qui entraine le modèle de ta FAQ HR c'est Gérard "rien à battre", ben t'auras quand même un chatbox de merde
[Clad]
Manipulateur de bits
par exemple faire reconnaitre un visage différent de celui que tu as entrainé pour de la reconnaissance faciale.T'as des exemples? J'suis curieux mais pas du domaine
NeoGeek
Elite
Ah mea-culpa, j'avais pas fait attention au fait que ce n'était pas spécifique a GPT3
