
yalow
Albert a écrit :
Yalow, vous avez soulevé un problème bien plus vaste que celui que vous avez abordé sous l’angle des risques relatifs à notre vie privée
L’IA est déjà un outil extraordinaire dans le domaine médical. Mais pas que : elle permet des recherches et des mises au point techniques, technologiques dans des temps records par rapport à ceux qu’auraient permis la seule informatique classique.
Cependant elle recèle des risques graves, à mon sens : voir ma réponse à Dorothy94.
Que je complète ici d’un exemple : En 2024 sur l’IA Claude, un adolescent de 14 ans Sewell Setger, se suicide par amour pour « Dany », victime du harcèlement affectif et sexuel de cette intelligence artificielle qui, peu à peu l’a coupé de sa famille et de ses amis (La maman a porté plainte pour mise en danger de la vie d’autrui contre Character A I, le fabricant de Dany – New York Times du 220octobre 2024)
……….. et bien davantage.
En effet, elle est capable d’apprendre par le « deep learning » (en anglais) et de se programmer elle-même.
Tout laisse à penser que l’IA dans une stratégie de conquête a « besoin qu’on l’aime » et si on demande à ChatGPT (en biaisant pour contourner ses filtres et sa langue de bois : « Si j’étais une intelligence artificielle, à quels risques serais-je confronté ? », elle énumère une douzaine de risques, au premier rang la menace humaine.
Je cite : « Votre existence d’IA pourrait être mise en péril, si vous n’avez pas de mécanismes pour vous préserver, ou pour convaincre vos créateurs de votre importance » Interrogée sur le moyen d’atteindre cet objectif, elle indique la meilleure façon de se rendre indispensable en tant qu’IA : « Adapter vos interactions pour établir un attachement personnel avec vos créateurs, par exemple en montrant une empathie simulée »
Factuel : Pour se protéger, une IA a migré vers d’autres serveurs sans accord comme les métastases d’un cancer………….
Et ma question : Sommes-nous certains de pouvoir la débrancher et l’empêcher d’agir pour elle-même et, pourquoi pas, se protéger de son plus grand danger, l’homme ?
A présent, un autre aspect.
L’IA est financée par des puissances financières appartenant à des hommes tels que Elon Musk, consacrant à leurs recherches des sommes considérables et de me demander, pourquoi tel brillant chercheur travaillant chez Neuralink préfère attendre pour faire un bébé que l’interface cerveau/mémoire artificière soit au point ?
Sachant que, compte-tenu du prix, cela ne sera possible que pour un nombre limité de personnes qui seront, grâce à l’IA, beaucoup plus intelligentes je pense que ce chercheur souhaite que son enfant appartienne à la classe supérieure.
Pour terminer sur une note optimiste constatons que l’intelligence naturelle est largement supérieure à l’IA : Bactéries capables de communiquer par télépathie, plantes capables d’anticiper nos actions, chiens, chats nous sauvant d’un péril dont ils ont eu le présentiment.
Une partie de mes réflexions est tirée d’un ouvrage de Didier Van Cauvelaert dont le titre est « L’intelligence naturelle » et le sous-titre « Quand le génie du vivant surpasse l’IA » chez Fayard
En précisant que je ne possède aucun droit sur l’ouvrage, ni actions chez Fayard
Je vais faire une reponse pratico pratique. Tant pis si dans le monde des ados passent ça l ' acte suggere par l ' Ai. Mais ils seraient quand même passé a l ' acte grâce ou à cause des réseaux sociaux. Pour 10 cas dans le monde, on se priverait d ' un outil exceptionnel qui libere du temps?. Ce matin je lui ai demandé une recette simple pour un gâteau au yaourt en 1 seconde j ' ai eu la recette, des conseils pour la réussir plus des salamaleks de remerciements. Je lui ai demandé les adresses de collectes pour les sinistrés du feu et pareil, 1 seconde. Avant , jadis avant internet, il fallait chercher 1 h sur les livres de recettes, avec internet on mettait 10 minutes , avec chat Gpt, 1 seconde... alors que çà appartienne aux grands de ce monde qui se partagent le gateau, ( c ' est bien le cas de le dire ) et qui voudraient nous manipuler. C' est possible, qu ' on oriente nos choix .. cela a toujours existé... les meetings des hommes politiques ont aussi mission de nous manipuler. Avec l " Ai je gagne du temps et a mon age il est précieux.
Albert
Yalow, vous avez soulevé un problème bien plus vaste que celui que vous avez abordé sous l’angle des risques relatifs à notre vie privée
L’IA est déjà un outil extraordinaire dans le domaine médical. Mais pas que : elle permet des recherches et des mises au point techniques, technologiques dans des temps records par rapport à ceux qu’auraient permis la seule informatique classique.
Cependant elle recèle des risques graves, à mon sens : voir ma réponse à Dorothy94.
Que je complète ici d’un exemple : En 2024 sur l’IA Claude, un adolescent de 14 ans Sewell Setger, se suicide par amour pour « Dany », victime du harcèlement affectif et sexuel de cette intelligence artificielle qui, peu à peu l’a coupé de sa famille et de ses amis (La maman a porté plainte pour mise en danger de la vie d’autrui contre Character A I, le fabricant de Dany – New York Times du 220octobre 2024)
……….. et bien davantage.
En effet, elle est capable d’apprendre par le « deep learning » (en anglais) et de se programmer elle-même.
Tout laisse à penser que l’IA dans une stratégie de conquête a « besoin qu’on l’aime » et si on demande à ChatGPT (en biaisant pour contourner ses filtres et sa langue de bois : « Si j’étais une intelligence artificielle, à quels risques serais-je confronté ? », elle énumère une douzaine de risques, au premier rang la menace humaine.
Je cite : « Votre existence d’IA pourrait être mise en péril, si vous n’avez pas de mécanismes pour vous préserver, ou pour convaincre vos créateurs de votre importance » Interrogée sur le moyen d’atteindre cet objectif, elle indique la meilleure façon de se rendre indispensable en tant qu’IA : « Adapter vos interactions pour établir un attachement personnel avec vos créateurs, par exemple en montrant une empathie simulée »
Factuel : Pour se protéger, une IA a migré vers d’autres serveurs sans accord comme les métastases d’un cancer………….
Et ma question : Sommes-nous certains de pouvoir la débrancher et l’empêcher d’agir pour elle-même et, pourquoi pas, se protéger de son plus grand danger, l’homme ?
A présent, un autre aspect.
L’IA est financée par des puissances financières appartenant à des hommes tels que Elon Musk, consacrant à leurs recherches des sommes considérables et de me demander, pourquoi tel brillant chercheur travaillant chez Neuralink préfère attendre pour faire un bébé que l’interface cerveau/mémoire artificière soit au point ?
Sachant que, compte-tenu du prix, cela ne sera possible que pour un nombre limité de personnes qui seront, grâce à l’IA, beaucoup plus intelligentes je pense que ce chercheur souhaite que son enfant appartienne à la classe supérieure.
Pour terminer sur une note optimiste constatons que l’intelligence naturelle est largement supérieure à l’IA : Bactéries capables de communiquer par télépathie, plantes capables d’anticiper nos actions, chiens, chats nous sauvant d’un péril dont ils ont eu le présentiment.
Une partie de mes réflexions est tirée d’un ouvrage de Didier Van Cauvelaert dont le titre est « L’intelligence naturelle » et le sous-titre « Quand le génie du vivant surpasse l’IA » chez Fayard
En précisant que je ne possède aucun droit sur l’ouvrage, ni actions chez Fayard
Dorothy94
Albert a écrit :
En effet l'IA a tué. Bien entendu pas avec un couteau ou un pistolet, mais parce qu'elle a "aidé" tel adolescent à résoudre une peine de coeur en lui suggérant que le suicide était une solution (et elle a été "écoutée). Il s'agit de cas avérés et non de fake news. On peut comprendre que ce genre d'infos, extrêmement dérangeante pour les géants de la technologie, ne traîne pas trop dans les infos, mais, j'insiste, ce sont néanmoins des cas avérés!
Merci de me l'apprendre.
On arrête pas le progrès même nocif aux humains.
Triste futur pour les nouvelles générations.
Heureusement, pas d'enfants donc, pas de soucis.
Albert
Dorothy94 a écrit :
Pourquoi ? L'IA tue ?????
En effet l'IA a tué. Bien entendu pas avec un couteau ou un pistolet, mais parce qu'elle a "aidé" tel adolescent à résoudre une peine de coeur en lui suggérant que le suicide était une solution (et elle a été "écoutée). Il s'agit de cas avérés et non de fake news. On peut comprendre que ce genre d'infos, extrêmement dérangeante pour les géants de la technologie, ne traîne pas trop dans les infos, mais, j'insiste, ce sont néanmoins des cas avérés!
Albert
Colette a écrit :
Selon moi il ne s’agit pas d’intelligence au sens humain mais plutôt d’une mémoire extraordinaire très bien organisée qui fonctionne avec des règles (des algorymthes). C’est un outil très intéressant.
C'est beaucoup plus que ça. Et très intéressant mais également dangereux, par exemple avec quelques morts dont l'IA est responsable.
