Медичні рекомендації, створені штучним інтелектом небезпечні і можуть зашкодити здоров’ю

● У штучного інтелекту великі проблеми. Підсумки інструменту на основі ШІ містять неточну інформацію про здоров’я, яка може наражати людей на небезпеку. Експерти попереджають, що це лише питання часу, коли погані поради почнуть загрожувати користувачам — або, у найгіршому випадку, призведе до чиєїсь смерті.
● Проблема серйозна. Наприклад, порада людям із раком підшлункової залози уникати продуктів з високим вмістом жиру, хоча лікарі рекомендували зовсім протилежне. Це також повністю сплутало інформацію про жіночі тести на рак, що могло призвести до того, що люди ігноруватимуть реальні симптоми хвороби. Чи зовсім дурні поради користувачам їсти каміння і наносити клей на піцу.
● Це нестабільна ситуація, адже ті, хто вразливий і страждає, часто звертаються до самодіагностики в інтернеті за відповідями. Якщо отримана ними інформація неточна або виведена з контексту, це може серйозно зашкодити їхньому здоров’ю. Також опитування показало що людям некомфортно, коли медичні працівники використовують ШІ для прийняття рішень щодо їхнього лікування.
● Канадська медична асоціація називає медичні рекомендації, створені штучним інтелектом, «небезпечними», вказуючи, що галюцинації, а також алгоритмічні упередження та застарілі факти можуть «ввести вас в оману і потенційно зашкодити здоров’ю», якщо вони будуть дотримуватися цих рекомендацій.
● Telegram Газета МИГ