Pourquoi un pasteur a-t-il dit qu’il avait failli mourir en écoutant un chatbot ?traduit

(RNS) — Scott Winters et Justin Lester sont tous deux pasteurs qui ont laissé entrer un chatbot dans leur vie. Pour l’un d’entre eux, des conséquences désastreuses sur la santé s’en sont suivies.

Winters, 55 ans, pasteur de Floride, a déposé une plainte contre OpenAI la semaine dernière après avoir utilisé ChatGPT pour obtenir des conseils médicaux. Pendant environ six semaines, il a parlé au chatbot, au lieu d’un médecin, de l’aggravation de ses symptômes, comme des étourdissements et une instabilité de la tension artérielle. Cela l’aurait rassuré sur le fait que ce qu’il ressentait n’était « pas quelque chose de dangereux ». Quelques heures avant qu'il ne soit hospitalisé pour une embolie pulmonaire potentiellement mortelle, le système lui disait encore qu'il ne s'agissait que d'un autre chapitre d'une histoire familière sur son corps, selon la poursuite. (Un porte-parole d’OpenAI a fait valoir que les conditions d’utilisation de ChatGPT « indiquent clairement qu’il n’est pas destiné à être utilisé à des fins de diagnostic ou de traitement médical. »)

Ce qui rend l’affaire remarquable, ce n’est pas le mauvais conseil médical d’un chatbot, mais le fait qu’il a utilisé la foi du pasteur pour le lui donner. Alors que les symptômes de Winters s’aggravaient, le chatbot lui aurait dit que traverser une crise de vertige était en soi une forme d’adoration. Cela lui parlait dans le même genre de langage qu’il utilisait devant sa propre congrégation. Mais au lieu de proposer…