Исследователи под руководством Адриана Барнетт из Квинслендского технологического университета обнаружили, что десятки моделей ИИ, используемых для прогнозирования риска инсульта и диабета, обучены на сомнительных данных. Результаты работы были опубликованы в научном журнале Nature.
- Обнаружено 124 рецензируемых статьи с сомнительными наборами данных.
- Два основных набора данных: для инсульта и диабета.
- Первый набор содержит данные о 5 110 пациентах, но имеет подозрительные характеристики.
- Второй набор включает информацию о 100 000 человек, но также вызывает сомнения.
Подробности о наборах данных
Первый набор данных, используемый для прогнозирования инсульта, был загружен на платформу Kaggle и содержит информацию о здоровье 5 110 человек. В наборе представлены 11 клинических признаков, однако исследователи отметили, что в данных почти отсутствуют пропуски, что считается подозрительным. Такие данные использовались в 104 исследованиях, включая проекты в США и Индонезии. Загружающий набор, Федерико Сориано Паласиос, утверждает, что источник данных конфиденциален и предназначен только для образовательных целей.
Проблемы второго набора данных
Второй набор, посвященный прогнозированию диабета, включает данные о 100 000 человек, однако команда Барнетта обнаружила лишь 18 различных значений уровня глюкозы, что ставит под сомнение достоверность информации. Набор использовался в 21 исследовании, но в клинической практике его еще не применяли. Мохаммед Мустафа, загрузивший данные, упоминает, что они получены из агрегированных медицинских карт, но отказывается раскрывать источник.
| Набор данных | Количество участников | Использование в исследованиях | Проблемы |
|---|---|---|---|
| Прогнозирование инсульта | 5 110 | 104 | Отсутствие пропусков |
| Прогнозирование диабета | 100 000 | 21 | Недостаток уникальных данных |
Исследование подчеркивает, что использование моделей ИИ, обученных на данных с неизвестным происхождением, может привести к ошибочным диагнозам и неправильным решениям в лечении. Журнал Scientific Reports уже отозвал три статьи из-за сомнений в достоверности данных. Пресс-служба Kaggle пока не дала комментариев по данной ситуации.