Intelligence Artificielle

[Homerdusud]

Si y’a bien un truc qui a changé depuis que le forum a fermé puis re ouvert, c est la démocratisation de l’IA generative (LLM ou contenus graphiques / vidéo / audio)

Vous avez testé sérieusement Chat GPT ou Bard?

C est carrément bluffant, un gain de temps énorme pour rédiger ou créer absolument tout.

Idem pour les images, soit en ligne (bof long et limite) soit en local avec un soft gratuit et une grosse carte graphique (dédicace aux mineurs de cryptos) vous sortez des résultats de malade en 2 minutes… sans parler des fakes comme le remplacement de visages qui sont à peine plus complexes

Ça vous impacte tout ça? Au boulot par exemple?

[Cath]

J'ai testé ChapGPT et je lui ai demandé : écrit moi un une courte bio de Cath XXX (moi). Vu que j'ai publié un certain nombre d'articles de recherche, je pensais naïvement qu'il allait me faire un résumé de mes recherches.

Il m'a répondu : Cath XXX ne semble pas être une personne connue.

J'ai donné un peu plus d'info sur ma personne (où j'enseigne, le labo où je fais ma recherche), et il m'a écrit quelques inepties du genre que j'étais spécialisée en algorithmique distribuée, ce qui n'est pas du tout le cas.

Dans mon boulot d'enseignante, les étudiants nous rendent parfois des devoirs faits avec ChapGPT, par exemple lorsqu'ils doivent écrire un compte rendu après l'intervention d'un professionnel qui est venu présenter son entreprise. On le détecte assez facilement...

[Homerdusud]

ChatGPT en version gratuite se base (basait?) sur des sources assez anciennes, et pas complètes.

Par contre il me semble que Bard utilise Google en direct pour répondre.

[Homerdusud]

Sinon, marrant, exemple de génération d'image avec remplacement de visage.

Exemple notre saint bucheron champion du monde vénéré!


Ou Teriitehau, en vacances à Hawaii (avec deux modèles différents )


Le tout créé en quelques clics et 30 secondes de calcul, avec un prompt en local

[Viking]

Je l'utilise un peu (au début chatGPT pour rigoler un peu avec puis parfois professionnellement avec Bing Chat Enterprise que la boite nous a installé, je crois que c'est basé sur la version payante de ChatGPT mais avec une interface beaucoup plus complète). Je l'utilise parfois, particulièrement je lui sous traite les tâches sans intérêt et bien sûr les "effets de mousse" (tiens j'ai répondu à la question du monsieur en 3 lignes, transforme ma réponse en 20 lignes pour que j'ai l'air savant ).

Je pense que l'outil n'en est qu'à ses balbutiements et que les développements dans un proche futur vont réellement changer nos habitudes de travail, la révolution devrait être aussi importante que l'apparition d'internet à la fin des 90's. Je pense que notre avenir pro c'est de naviguer pendant que notre chatbot conversera avec celui de notre chef Après est-ce que ça risque de se terminer en Skynet et en Terminator, je pense qu'il faut quand même prendre ce risque très au sérieux.

[Homerdusud]

Je l'utilise un peu (au début chatGPT pour rigoler un peu avec puis parfois professionnellement avec Bing Chat Enterprise que la boite nous a installé, je crois que c'est basé sur la version payante de ChatGPT mais avec une interface beaucoup plus complète). Je l'utilise parfois, particulièrement je lui sous traite les tâches sans intérêt et bien sûr les "effets de mousse" (tiens j'ai répondu à la question du monsieur en 3 lignes, transforme ma réponse en 20 lignes pour que j'ai l'air savant ).

Je pense que l'outil n'en est qu'à ses balbutiements et que les développements dans un proche futur vont réellement changer nos habitudes de travail, la révolution devrait être aussi importante que l'apparition d'internet à la fin des 90's. Je pense que notre avenir pro c'est de naviguer pendant que notre chatbot conversera avec celui de notre chef Après est-ce que ça risque de se terminer en Skynet et en Terminator, je pense qu'il faut quand même prendre ce risque très au sérieux.

Idem chez moi, je m'en sers au taff, avec des prompts bien réfléchis les résultats sont vraiment surprenants. Meme pour des conneries, avec un peu de finesse on peut le faire déraper



Par contre, Skynet, on en est loin, ChatGPT est un générateur de texte qui se base sur ce qu'il a déjà "lu", il ne réfléchit pas.

[Viking]

Certes mais parfois on peut se demander si nos politiques réfléchissent

Et eux aussi vont utiliser l'IA de plus en plus

[mnx44]

Si j'ai bien compris, ce machin (Chatgpt) fait une compilation des pages trouvées sur internet pour rendre sa copie.
Mais est-il "capable" de faire le distinguo entre les infos stables et celles qui pourraient résulter de manipulations type fake news ou de publications de faux comptes etc.

Bref, ce truc m'inquiète ...

[CHRISTOPHE ROUSSE]

Aucun intérêt pour mon cas , mon fils informatitien s'en sert forcément , pour entre autre fabriquer des faux avis positf plus vrai que nature pour le site internet de l'école de kite d'un Kenyan que j'ai aidé à démarrer .....

[Homerdusud]

Si j'ai bien compris, ce machin (Chatgpt) fait une compilation des pages trouvées sur internet pour rendre sa copie.
Mais est-il "capable" de faire le distinguo entre les infos stables et celles qui pourraient résulter de manipulations type fake news ou de publications de faux comptes etc.

Bref, ce truc m'inquiète ...

Bien sûr que non il ne peut pas. Mais les humains le peuvent?

[mnx44]

Si j'ai bien compris, ce machin (Chatgpt) fait une compilation des pages trouvées sur internet pour rendre sa copie.
Mais est-il "capable" de faire le distinguo entre les infos stables et celles qui pourraient résulter de manipulations type fake news ou de publications de faux comptes etc.

Bref, ce truc m'inquiète ...

Bien sûr que non il ne peut pas. Mais les humains le peuvent?

Bah oui quand même ...

[Le_Touriste]

un des danger réel : https://techxplore.com/news/2023-12-pro ... ivate.html

On peut, visiblement facilement, faire révéler au soft ses données d'entrainement, qui sont sensées rester inaccessibles.
Du coup plein de données personnelles et autres...

[Homerdusud]

Si j'ai bien compris, ce machin (Chatgpt) fait une compilation des pages trouvées sur internet pour rendre sa copie.
Mais est-il "capable" de faire le distinguo entre les infos stables et celles qui pourraient résulter de manipulations type fake news ou de publications de faux comptes etc.

Bref, ce truc m'inquiète ...

Bien sûr que non il ne peut pas. Mais les humains le peuvent?

Bah oui quand même ...

Vu les vidéos que partagent rousse et le joke j ai un léger doute

[Homerdusud]

un des danger réel : https://techxplore.com/news/2023-12-pro ... ivate.html

On peut, visiblement facilement, faire révéler au soft ses données d'entrainement, qui sont sensées rester inaccessibles.
Du coup plein de données personnelles et autres...

Pas besoin d'intelligence artificielle pour ça.

Mets ce genre de requete dans google

intext:"confidentiel" site:*.gouv.* file:*.pdf*

[Le_Touriste]

un des danger réel : https://techxplore.com/news/2023-12-pro ... ivate.html

On peut, visiblement facilement, faire révéler au soft ses données d'entrainement, qui sont sensées rester inaccessibles.
Du coup plein de données personnelles et autres...

Pas besoin d'intelligence artificielle pour ça.

Mets ce genre de requete dans google

intext:"confidentiel" site:*.gouv.* file:*.pdf*

En fait les utilisateurs (des employés d'entreprises) utilisent ChatGPT ou autre et par exemple y entre des données confidentielles de réunions. Et ça tu ne va pas le trouver sur le net. De base dans une boite qui a des données confidentielles, c'est du "need to know" (en français moderne...), seuls ceux qui sont autorisés pour de bonne raisons y ont accès.

Mais une fois que ChatGPT a été en contact avec ces données, a été entrainé avec ces données, normalement tout ça reste interne et n'est pas de l'info disponible en interrogeant. Avec les astuces citées on finit par le faire puiser dans ces données et les obtenir. Et nombre de ces données ne sont pas sur le net.