Un program AI folosit de peste 30.000 de medici din SUA inventează texte şi tratamente medicale. Soft-ul, creat de OpenAI care deține şi ChatGPT
Gigantul tehnologic OpenAI, care deține ChatGPT, și-a prezentat recent noul instrument de transcriere, Whisper, bazat tot pe inteligență artificială. Whisper are însă un defect major: este predispus să inventeze bucăți de text sau chiar propoziții întregi, potrivit cercetătorilor, citați de Reuters, informează Agerpres.
- Premiera noului sezon Chefi la cuțite din 17 Noiembrie, Duminică 20:00, Luni, Marți și Miercuri 20:30 pe Antena 1 și AntenaPLAY
- Cum a decăzut litoralul românesc. Nicolae, unul dintre cei importanți investitori, se gândește să se lase de turism după ce a aflat ce taxe îl așteaptă în 2025
OpenAI și-a prezentat instrumentul ca având o "soliditate și o acuratețe apropiată de nivelul uman". Totuși, Whisper este predispus să inventeze bucăți de text sau chiar propoziții întregi, conform interviurilor cu peste 10 ingineri de software, dezvoltatori și cercetători universitari. Acești experți au declarat că unele dintre textele inventate - cunoscute în industrie drept halucinații - includ comentarii rasiale, retorică violentă și chiar tratamente medicale imaginare.
Peste 30.000 de medici au început să folosească Whisper
Experții au declarat că astfel de invenții sunt problematice, deoarece Whisper este utilizat într-o serie de industrii din întreaga lume pentru a traduce și transcrie interviuri, a genera texte și a crea subtitrări pentru videoclipuri. Ei au mai declarat că și mai îngrijorătoare este graba centrelor medicale de a utiliza Whisper pentru a transcrie consultațiile pacienților cu medicii, în ciuda avertismentelor OpenAI, care a spus că instrumentul nu ar trebui utilizat în "domenii cu risc ridicat".
Astfel de greșeli ar putea avea "consecințe foarte grave", în special în mediul spitalicesc, a declarat Alondra Nelson, care a condus Biroul de politici științifice și tehnologice al Casei Albe pentru administrația Biden, până anul trecut.
"Nimeni nu își dorește un diagnostic greșit", a adăugat Nelson. "Ar trebui să existe un standard mai ridicat". Whisper este, de asemenea, utilizat pentru a crea subtitrări pentru persoanele surde și cu deficiențe de auz - o populație expusă unui risc deosebit de transcrieri greșite. Peste 30.000 de medici și 40 de sisteme de sănătate, inclusiv Clinica Mankato din Minnesota și Spitalul de Copii din Los Angeles, au început să folosească Whisper.
Puteţi urmări ştirile Observator şi pe Google News şi WhatsApp! 📰