CC BY
23УДК 004.5:612.821
АСПЕКТЫ ПРИМЕНЕНИЯ МАШИННОГО ОБУЧЕНИЯ В ОПРЕДЕЛЕНИИ
СУИЦИДАЛЬНОГО РИСКА
Вербенко В.А.1, Антонов А.В.1, Риштаков С.Ф.1 1 Медицинская академия имени С. И. Георгиевского (структурное подразделение) ФГАОУ ВО «Крымский федеральный университет имени В. И. Вернадского», 294006, Бульвар
Ленина 5/7, Симферополь.
Для корреспонденции:
Вербенко Виктория Анатольевна, доктор медицинских наук, профессор, заведующая кафедрой психиатрии, психотерапии, наркологии с курсом общей и медицинской психологии, Медицинская академия имени С. И. Георгиевского ФГАОУ ВО «Крымский федеральный университет имени В. И. Вернадского
E-mail: vverbenko@mail.ru
Антонов Александр Владимирович, аспирант кафедры психиатрии, психотерапии, наркологии с курсом общей и медицинской психологии, Медицинская академия имени С. И. Георгиевского ФГАОУ ВО «Крымский федеральный университет имени В. И. Вернадского
E-mail: iskanderwiessman@gmail.com
Information about authors:
Verbenko V.A. https://orcid.org/0000-0003-2085-6001
Antonov A.V. https://orcid.org/0000-0002-5955-5962
Rishtakov S. F. http://orcid.org/0000-0002-6836-8739
For correspondence:
Verbenko V.A. Medical Academy named after S. I. Georgievsky of Vernadsky CFU, E-mail: vverbenko@mail.ru
Antonov A.V. Medical Academy named after S. I. Georgievsky of Vernadsky CFU, E-mail: iskanderwiessman@gmail.com
РЕЗЮМЕ
Главная цель работы - показать перспективы использования машинного обучения для выявления суицидальных тенденций. Поэтому определение взаимосвязи между факторами риска является сложным для клинической практики, а прямые статистические методы не всегда демонстрируют достаточную эффективность. В настоящее время ведутся исследования с использованием высокоэффективного подхода, основанного на использовании технологий машинного обучения в области оценки риска суицидальных действий. Данный подход позволяет получать прогноз на основе комплекса взаимосвязанных факторов, а также в рассмотренных исследованиях демонстрирует обнадеживающие результаты. Кроме того, его применения возможно как в клинической практике, для создания модели риска на основе использования психометрических шкал и различных социодемографических факторов, так и для скрининга риска в общей популяции - например, н основе информации из социальных сетей. Опираясь на результаты рассмотренных исследований можно утверждать, что данные методы имеют достаточную эффективность, а их использование может увеличить эффективность профилактики суицида.
Ключевые слова: машинное обучение, профилактика суицида
ASPECTS OF USING OF COMPUTER-ASSISTED TEACHING IN DEFINITION OF
SUICIDE RISK
Antonov A.V.1, Rishtakov S.F1,Verbenko V.A.1
SUMMARY
The main goal of the work is to show the prospects of using machine learning to identify suicidal tendencies. Therefore, determining the relationship between risk factors is difficult
for clinical practice, and direct statistical methods do not always demonstrate sufficient effectiveness. Currently, research is being conducted using a highly effective approach based on the use of machine learning technologies in the field of suicidal acts risk assessement. This approach allows to obtain a forecast based on a complex of interrelated factors, and also in the reviewed studies demonstrates encouraging results. In addition, its application is possible both in clinical practice, for creating a risk model based on the use of psychometric scales and various sociodemographic factors, and for screening risk in the general population — for example, on the basis of information from social networks. Based on the results of the reviewed studies, it can be argued that these methods are sufficiently effective, and their use can increase the effectiveness of suicide prevention
Key words: suicide prevention, computer-assisted teaching.
ВВЕДЕНИЕ
На протяжении последних лет медицина в своем развитии полагается на научные достижения в различных областях науки. Улучшение методов диагностики и лечения заболеваний стало возможно благодаря внедрению в практику новых подходов, основанных на современных технологиях, что положительно сказывается на уровне оказания медицинской помощи в целом. Несмотря на большой прогресс в понимании природы и механизмов развития и протекания различных патологических процессов, некоторые области до сих пор остаются в некоторой степени неизведанными. В немалой степени это относится к психиатрии - несмотря на то, что многие физиологические процессы в центральной нервной системе были хорошо изучены, прогнозирование динамики психического состояния до сих пор остается сложной задачей. В связи с этим, на сегодняшний день ведется активный поиск новых подходов и методов, способных улучшить диагностику психических расстройств, прогнозирование динамики их протекания а также добится повышения эффективности терапии, в том числе путем "индивидуализации" терапевтического подхода. В связи с накоплением огромного количества медицинских данных, что связано с интенсивным внедрением информационных технологий в клиническую практику, открываются новые перспективы для разработки новых диагностических методов, способных в будущем помочь клиницистам в их ежедневной практике. Однако, традиционные статистические методы плохо справляются с большими объемами данных либо с данными, имеющими множество переменных, влияющих на результат. Поэтому, подходы связанные с использованием машинного обучения кажутся в данном направлении наиболее перспективными [1].
Одной из наиболее остро стоящих проблем в психиатрической практике, несмотря на наличие в арсенале медработников различных инструментов остается прогнозирование риска суицидальных действий, что связано со сложностью анализа взаимосвязи множественных факторов риска. Именно поэтому использование машинного обучения в данной отрасли кажется одним из наиболее перспективных направлений.
ОЦЕНКА РИСКА СУИЦИДА
По оценкам ВОЗ ежегодно от суицида погибают 1 млн человек, а суицидальные попытки совершают 10-20 млн. В некоторых странах самоубийство входит в тройку основных причин смерти у людей молодого и среднего возраста. При этом среди причин смерти в возрастной группе 10-24 года суициды находятся на втором месте. Кроме того, за последние 45 лет показатели самоубийств возросли во всем мире на 60% [2].
Сложность прогнозирования риска самоубийства усугубляется тем фактом, что 60% смертей от самоубийства происходят в результате первой попытки суицида [3]. Проблема предупреждения самоубийств является одной из наименее изученных в психиатрии, что связано с трудностью определения суицидогенных факторов и их роли в возникновении и протекании суицидального поведения, поскольку действие и взаимодействие факторов находится в сложных для анализа отношениях. Суицидальная попытка в анамнезе долгое время считалась решающим фактором для прогноза суицидальных попыток в будущем, однако лишь треть предпринявших суицидальную попытку демонстрировали суицидальное поведение в прошлом(Mann JJ, Waternaux C, Haas GL, Malone KM., 1999). Клинические шкалы, которые непосредственно оценивают суицидальные мысли и поведение, широко используются, но они, как правило, имеют низкую специфичность для прогнозирования попыток самоубийства, поскольку они склонны неправильно классифицировать пациентов с низким риском суицидальных действий как пациентов с высоким риском, при этом доля ложноположитель-
ных результатов в отношении высокого риска может достигать 66% [4]. Таким образом, на сегодняшний день не существует инструментов оценки риска самоубийства, которые могли бы точно предсказать, умрет ли человек от суицида или нет, и в течение какого периода времени. Многие люди, которые считаются подверженными высокому риску самоубийства, никогда не умирают от самоубийства, а некоторые, которые не считаются таковыми, совершают суицид. В настоящее время высказывается мнение, что зависимость между воздействием факторов риска в прошлом и суицидальным риском носит нелинейный характер [5]. Существует несколько проблем при проведении оценки риска самоубийства. К таковым относят следующие факторы: клиницисты обычно полагаются на сообщаемую пациентом информацию, которая не всегда дает полную картину риска. Дополнительная информация, полученная при анализе различных обстоятельств, в данном случае может предоставить более полную картину для оценки риска; Суицидальное поведение может вызывать эмоциональную реакцию у медицинских работников что может ограничивать способность последних эффективно работать с людьми. Также на эффективности определения суицидального риска могут сказываться иные факторы - высокая нагрузка на медперсонал, например в условиях кадрового дефицита, негативное отношение некоторых медработников к суицидально настроенным пациентам, а также недостаточная квалификация медперсонала [6]. О низкой выявляемости суицидальной настроенности говорит тот факт, что приблизительно 50% тех, кто умирает от самоубийства, находились под наблюдением врача в трехмесячный период, предшествующий смерти, 40% за месяц до и 20% за неделю до смерти [7]. Важно оценить риск самоубийства с интегративной точки зрения, которая рассматривает конструкции, связанные с суицидальным желанием и способностью наносить самоповреждения. Кроме того, кроме личностных факторов определенную роль играют внешние факторы - например культурная среда. [8] Также существуют гипотезы, имеющие больший уклон в сторону биологического базиса суицидального поведения. К примеру идея о том, что различные нарушения в процессе принятия решений, часто ассоциированные с импульсивностью могут играть роль факторов риска самоубийства, а аутоагрессивные реакции на социальные стрессоры у людей, склонных к самоубийству, являются результатом преобладания автоматических, "ПавловскиХ' механизмов над более целенаправленным принятием решений. Это, в свою очередь, связывают с изменением взаимодействий в базальных ганглиях [9]. Также использование функциональной магнитно-резонансной томографии позволило связать суицидальные идеи и попытки с изменениями в том, как человек воспринимает "негативные" концепции
- смерть, самоубийство, жестокость. и других позитивных и негативных концепциях [10]. Конкретные концепции, которые были изменены у людей с суицидальными идеями включали смерть, жестокость, неприятности, беззаботность, добро и похвала.
Вышесказанное еще раз показывает, что необходима разработка новых методов прогнозирования суицидального риска.
МАШИННОЕ ОБУЧЕНИЕ И ЕГО ИСПОЛЬЗОВАНИЕ В МЕДИЦИНЕ
Машинное обучение в широком смысле является классом методов искусственного интеллекта, который автоматически определяет параметры для достижения оптимального решения задачи, а не программируется человеком заранее - то есть обучается. Этот процесс обучения имитирует способность к обучению человеческого интеллекта и может использоваться для задач, с которыми человек традиционно справляется лучше информационных систем (например, речь, письмо, распознавание лиц, автомобили с автоматическим управлением или помощники по медицинским решениям). Первым воплощением данной концепции стал так называемый персептрон, который был разработан в 1950-х годах, когда были достигнуты успехи в области цифровых вычислений. Целью создателей персептрона было создание машины, которая могла бы разрабатывать собственные формулы для решения проблем с помощью предыдущего опыта. В частности, оно было разработано для идентификации изображений треугольников от 400 датчиков света, которые обнаруживали бы структуры света и тени, представляющие различные формы (например, квадраты и треугольники). Вместо того, чтобы "сообщить " машине,, как выглядят квадрат или треугольник, идея состояла в том, чтобы машина "научилась" правильно маркировать шаблон в процессе проб и ошибок, называемом обучение. Процесс контролировался экспериментатором, который обозначал определяемые треугольники как правильные ответы, а другие фигуры
- как ошибки. На протяжении многих испытаний машина изменяла статистические веса, связанные с каждым датчиком света, используя внутреннее уравнение или функцию. Информация от некоторых датчиков (то есть датчиков в проекции треугольника) будет иметь
больший "вес" во время тренировки, тогда как сигнал других датчиков (то есть датчиков в проекции квадрата) не будут, и эти значения будут определять прогноз. Производительность этого процесса обучения была оценена путем использование набора изображений, с которым машина не знакома, и проверки точности внутреннего алгоритма. Таким образом, машина извлекла уроки из беспорядочных вариаций шаблонов треугольников, чтобы создать интернализованное представление шаблона, т.е. машина изучила нечеткую концепцию шаблона. Успех в этой вызвал большой ажиотаж, поскольку данный подход мог позволить решать задачи, где нет четких правил - в основном в психологии и естественных науках. Однако несовершенство алгоритмов и недостаточная вычислительная мощность, которой обладали компьютерные системы того времени не позволяло в полной мере раскрыть потенциал данного подхода. Некоторые из этих ограничений теперь могут быть устранены из-за увеличения вычислительной мощности, которая позволяет современным системам находить решение в случаях, когда традиционные модели и алгоритмы показывают себя не лучшим образом (например, распознавание образов). [11] Кроме того, в отличие от традиционных статистических методов, ограничивающих точность прогнозирования значительно минимизируя количество предикторов и взаимодействий между ними, и таким образом накладывают линейность на взаимоотношения, которые, на самом деле могут находится в более сложной взаимосвязи, подходы, основанные на использовании машинного обучения позволяют одновременно учитывать многочисленные факторы и их сложные взаимодействия. [12]
Существует ряд причин, по которым многие методы машинного обучения хорошо подходят для клинических прогнозов. Среди таких причин можно отметить больший фокус на прогнозировании на основе данных, полученных в результате наблюдения, способность к эмпирической оценке модели: путем количественной оценки успешности прогнозирования у в новом наборе данных (так называемой оценке вне выборки) многие методы машинного обучения естественным образом принимают перспективную точку зрения и могут напрямую дать представление о клинической значимости, в то время как более традиционные статистические методы обычно ориентированы на нахождении статистических закономерностей в имеющемся наборе данных (так называемой оценки в выборке) на основе предварительно определенных предположений, смоделированных как правило, без явной оценки возможного наличия новых скрытых корреляций. Таким образом есть основания полагать, что различные медицинские данные (например результаты ЭЭГ, сомнографии, сканирование мозга и), которые получены вне текущего обращения. [13], различные записи в медицинской документации а также иная текстовая продукция [14] могут быть задействованы в процессе анализа для повышения качества диагностики.
Подобный подход, не имеющий устоявшегося перевода в русском языке носит название Data mining, и подразумевает поиск неких новых, "скрытых" данных, имеющихся в уже доступных массивах информации. Нахождение ранее неизвестных данных, имеющих практическую ценность может использоваться при построении инструментов определения суицидального риска. [15]
Данный подход уже нашел применение в психиатрических исследованиях- озаботившись проблемой депрессии у пожилых, создали инструмент для определения риска депрессии в данной возрастной группе. Используя подход, основанный на применении искусственных нейронных сетей, а в качестве прогностических критериев различные социально-демографические факторы, такие как возраст, пол, грамотность, наличие живого супруга/супруги, профессиональный статус, уровень дохода, тип семьи, злоупотребление психоактивными веществами и сопутствующие заболевания, такие как нарушения зрения, проблемы с подвижностью, проблемы со слухом и нарушения сна сном, создали модель, эффективность которой составила 97,2%. [16]
Анализируя различные публикации по данной теме можно прийти к выводу, что методы машинного обучения могут быть полезны в определении факторов риска суицидальных действий. Так например, имело место исследования по идентификации групп высокого риска для самоубийства с использованием различных методов классификации, включая логистическую регрессию (LR) - часто используемый в медицине статистический инструмент, дерево решений (DT), искусственная нейронная сеть (ANN) и машина опорных векторов (SVM). пол, возраст и работа были наиболее важными факторами риска фатальных попыток самоубийства. Стоит отметить, что наибольшую эффективность по мнению исследователей продемонстрировали машины опорных векторов. [17]
Возможность использования стандартных психометрических шкал в построении модели для выявления реальных попыток самоубийства также показала хороший результат. 573 пациента с депрессией и тревожными расстройствами заполнили 31 самоотчетный психометрический опросник об истории их попыток самоубийства. Далее к этим результатам были добавлены 10 социодемографических показателей, и на всей совокупности данных была обучена модель. Полученная модель имела общую точность 93,7% за 1 месяц, 90,8% за 1 год и 87,4% при обнаружении попыток самоубийства в течение жизни. Среди всех переменных опросник по регулированию эмоций (Emotion Régulation Questionnaire) имел наибольший удельный вес в прогнозировании риска, наряду с такими шкалами как Шкала гнева (ARS) и шкала удовлетворенности жизнью (SWLS), Schedule for the Assessment of Insight (SAI) и Addiction Severity Index (ASI). Базирование модели только на пяти этих показателях, вместо 41 показателя позволяет сократить время, необходимое для проведения исследования, при сохранении эффективности. Этот подход может помочь клиницистам идентифицировать пациентов с высоким риском в клинических условиях. [18]
Подход, основанный на применении алгоритмов с использованием "деревьев классификации" (Classification Tree Analysis) показывает высокую эффективность в прогнозировании суицидального риска у подростков. А поскольку данные методы отличаются от многих методов машинного обучения большей "прозрачностью" в процессе прогнозирования, то помимо возможности внедрения в клиническую практику данный подход может найти свое применение в теоретических исследованиях взаимодействий факторов риска суицида. [19] Указанная выше возможность использовать рутинные данные для прогнозирования вероятности самоубийства была с успехом использована в нескольких исследованиях. Из них стоит особо отметить работу, материалом для которой послужили данные медицинских страховых записей давностью до 10 лет. [20] Среди них были пол, возраст, тип страхования, доход, инвалидность, коды из различных рубрик МКБ-10 (включая психические и поведенческие расстройства). Не смотря на большую давность данных, модели показывали хорошую эффективность, хотя использование более свежих данных все же демонстрирует более высокие результаты. Также стало возможным определение "временного критерия" при оценке факторов риска. Так например, наличие аффективного расстройства является фактором, актуальным на протяжении длительного периода времени, тогда как назначение и прием фармакотерапии, госпитализация являются актуальными для оценки риска суицидальных действий в ближайшее время. [21].
Высокая частота самоубийств среди ветеранов недавних привела к интересу к выявлению рисков. Определение гендерных и травматических предикторов возникновения суицидальных идей (СИ) требуют использования передовых вычислительных методов, способных выяснить эти важные и сложные ассоциации. В исследовании, где при помощи методов машинного обучения анализировались состоящие в национальной выборке ветеранов, дислоцированных во время конфликтов в Ираке и Афганистане (n = 2244), были выявлены определенные предикторы возникновения суицидальных мыслей, которые включают депрессию, посттравматическое стрессовое расстройство (ПТСР) и соматические жалобы. Сексуальные домогательства во время развертывания стали ключевым фактором, который взаимодействовал с ПТСР и депрессией и продемонстрировал более тесную связь с СИ среди женщин. [22]
Также машинное обучение может использоваться в целях создания эпидемиологического прогноза. При автоматизированной обработке с целью обеспечить более точную оценку годовой частоты посещений отделения неотложной помощи из-за попыток самоубийства во Франции в тестовой выборке из 444 пациентов, госпитализированных в 2012 году (98 попыток самоубийства, 48 случаев суицидальных мыслей и 292 контроля без зарегистрированного нелетального суицидального поведения), доля автоматического обнаружения суицидальных попыток варьировалась от 70,4 % до 95,3%. [23]
Кроме лиц, попадающих в поле зрения медицинских работников, риску суицида подвержены и другие группы населения. Поэтому, для прогнозирования риска суицидальных действий в широкой популяции возможно использовать информацию из источников, не имеющих отношения к медицинской документации. К ним, например, могут относится данные из социальных сетей. В Интернете, договоры о самоубийстве, интернет-зависимость и «экстремальные» сообщества, похоже, усиливают суицидальное поведение. Некоторые авторы фокусируются на выявлении групп риска с помощью интеллектуального анализа данных, выявления факторов риска и шаблонов веб-активности. Другие описывают методы профилактики в Интернете, такие как веб-сайты, скрининг и приложения.
Целевые вмешательства через социальные сети также рассматриваются в качестве превентивных мер, когда обнаружены предикторы суицидальной активности. [24]
ЗАКЛЮЧЕНИЕ
Проанализировав материалы, касающиеся проблематики диагностики и профилактики суицидальной активности, можно прийти к выводу, что несмотря на значительный прогресс в медицинской науке, и в психиатрии в частности, данный вопрос до сих пор является сложным для решения. Учитывая экономическую нагрузку на бюджет здравоохранения, и иные негативные последствия самоубийств, поиск новых подходов к диагностике и предотвращению самоубийств является одной из наиболее приоритетных задач в психиатрии. В случае разработки инструментов для использования в клинической практике будет возможно проведение более эффективного скрининга, также клиницисты получат еще один диагностический инструмент для "точечного" применения в случаях, когда наличие вероятности суицидального поведения вызывает сомнения. Одним из основных вопросов, связанных с включением подобных систем в медицину, может быть чрезмерная зависимость от возможностей автоматизации. Хотя феномен чрезмерной зависимости от технологии может в краткосрочной перспективе привести к повышению удобства и эффективности работы, в долгосрочной перспективе эти средства могут привести к соответствующему феномену "deskilling" (т. е. к снижению уровня квалификации, необходимого для выполнения задач, когда некоторые или все компоненты задачи частично автоматизированы и могут вызвать серьезные сбои в работе или неэффективность всякий раз, когда технология терпит неудачу). [25] Однако, данные опасения являются несколько преувеличенными, поскольку любой дополнительный диагностический инструмент должен использоваться лишь в совокупности с иными имеющимися фактами, а решение принимается врачом на основании соотношения между собой всех имеющихся данных. В связи с этим, внедрение диагностических инструментов, основанных на применении методов машинного обучения, позволит значительно улучшить ситуацию с предотвращением самоубийств, следовательно разработка таких систем должна быть одним из приоритетных направлений в современной психиатрии.
Конфликт интересов: авторы заявляют об отсутствии конфликта интересов. Conflict of interest: We have no conflict of interest to declare.
СПИСОК ЛИТЕРАТУРЫ
1. Cleophas T. J., Zwinderman A. H. Machine Learning in Medicine-a Complete Overview. - Springer, 2015. (Preface)
2. https://www.who.int/mental_health/prevention/suicide/background/en
3. Rakesh G. Suicide prediction with machine learning //American Journal of Psychiatry Residents' Journal. - 2017. - Т. 12. - №. 1. - С. 15-17.
4. Carter G., Spittal M. J. Suicide risk assessment. - 2018.
5. Nguyen T. et al. An evaluation of randomized machine learning methods for redundant data: Predicting short and medium-term suicide risk from administrative records and risk assessments // arXiv preprint arXiv:1605.01116. - 2016.
6. Sadek J. A Clinician's Guide to Suicide Risk Assessment and Management. - Springer, 2018. -C. 16-17.
7. Hawton K. et al. Risk factors for suicide in individuals with depression: a systematic review / /Journal of affective disorders. - 2013. - Т. 147. - №. 1-3. - С. 17-28.
8. Klibert J. et al. Cross-cultural and cognitive-affective models of suicide risk //Journal of Black Psychology. - 2015. - Т. 41. - №. 3. - С. 272-295.
9. Dombrovski A. Y., Hallquist M. N. The decision neuroscience perspective on suicidal behavior: evidence and hypotheses //Current opinion in psychiatry. - 2017. - Т. 30. - №. 1. - С. 7.
10. Just M. A. et al. Machine learning of neural representations of suicide and emotion concepts identifies suicidal youth //Nature human behaviour. - 2017. - Т. 1. - №. 12. - С. 911.
11. Dwyer D. B., Falkai P., Koutsouleris N. Machine learning approaches for clinical psychology and psychiatry //Annual review of clinical psychology. - 2018. - Т. 14. - С. 91-118.
12. Burke T. A., Ammerman B. A., Jacobucci R. The use of machine learning in the study of suicidal and non-suicidal self-injurious thoughts and behaviors: A systematic review / /Journal of affective
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24
25
20
disorders. - 2018.
Bzdok D., Meyer-Lindenberg A. Machine learning for precision psychiatry //arXiv preprint arXiv:1705.10553. - 2017.
Velupillai S. et al. Risk assessment tools and data-driven approaches for predicting and preventing suicidal behavior //Frontiers in psychiatry. - 2019. - T. 10.
Barros J. et al. Suicide detection in Chile: proposing a predictive model for suicide risk in a clinical sample of patients with mood disorders //Brazilian Journal of Psychiatry. - 2017. - T. 39. - №. 1. -C. 1-11.
Sau A., Bhakta I. Artificial neural network (ANN) model to predict depression among geriatric population at a slum in Kolkata, India //Journal of Clinical and Diagnostic Research: JCDR. - 2017.
- T. 11. - №. 5. - C. VC01.
Amini P. et al. Evaluating the high risk groups for suicide: A comparison of logistic regression, support vector machine, decision tree and artificial neural network //Iranian journal of public health.
- 2016. - T. 45. - №. 9. - C. 1179.
Oh J. et al. Classification of suicide attempts through a machine learning algorithm based on multiple systemic psychiatric scales //Frontiers in psychiatry. - 2017. - T. 8. - C. 192.
Hill R. M., Oosterhoff B., Do C. Using machine learning to identify suicide risk: a classification tree approach to prospectively identify adolescent suicide attempters / /Archives of suicide research. -2019. - №. just-accepted. - C. 1-33.
Choi S. B. et al. Ten-year prediction of suicide death using Cox regression and machine learning in a nationwide retrospective cohort study in South Korea //Journal of affective disorders. - 2018. - T. 231. - C. 8-14.
Walsh C. G., Ribeiro J. D., Franklin J. C. Predicting risk of suicide attempts over time through
machine learning //Clinical Psychological Science. - 2017. - T. 5. - №. 3. - C. 457-469.
Gradus J. L. et al. Gender differences in machine learning models of trauma and suicidal ideation in
veterans of the Iraq and Afghanistan Wars //Journal of traumatic stress. - 2017. - T. 30. - №. 4. - C.
362-371.
Metzger M. H. et al. Use of emergency department electronic medical records for automated epidemiological surveillance of suicide attempts: a French pilot study //International journal of methods in psychiatric research. - 2017. - T. 26. - №. 2. - C. e1522.
Lopez-Castroman J. et al. Mining social networks to improve suicide prevention: A scoping review // Journal of neuroscience research. - 2019.
Cabitza F., Rasoini R., Gensini G. F. Unintended consequences of machine learning in medicine // Jama. - 2017. - T. 318. - №. 6. - C. 517-518.
