Американская медицинская ассоциация добивается законодательной защиты врачей от судебных исков, связанных с ошибками искусственного интеллекта. Если врач использовал систему по назначению, а она навредила пациенту, отвечать должны разработчики и поставщики технологий. Об этом сообщает Axios.

Само по себе требование ответственности разработчика за дефект продукта вполне разумно. Но возникает вопрос: если врач не способен оценить рекомендацию ИИ, не понимает, на чём она основана, и не готов отвечать за принятое решение, в чём тогда заключается его профессиональная роль?

Медицина — особая профессия. Пациент часто не выбирает врача, не может оценить его квалификацию и обращается к нему в состоянии страха, боли и беспомощности. Врач для него не просто поставщик услуг, а человек, которому доверяют собственную жизнь. Это доверие держится не на дипломе и лицензии, а на уверенности, что врач знает, что делает, и не откажется от своего решения, если что-то пойдёт не так.

Искусственный интеллект меняет привычное положение вещей. Медицинские знания перестают быть исключительной собственностью профессионального сообщества. Пациент может самостоятельно разобраться в диагнозе, получить объяснение результатов исследований, обсудить варианты лечения. И всё чаще задаёт неудобный вопрос: что именно добавляет врач к тому, что уже способен сделать ИИ?

Ответом могло бы стать сотрудничество. Не формальное утверждение машинной рекомендации, а полноценный диалог, в котором разные знания, опыт и сомнения помогают найти лучшее решение. Для этого врачу вовсе не обязательно знать больше искусственного интеллекта. Необходимо думать самостоятельно и принимать участие в результате.

Однако куда удобнее другая модель: если лечение помогло — молодец врач, если навредило — виноват алгоритм. Успех остаётся человеку, ответственность отправляется разработчику.

И здесь обнаруживается удивительный парадокс. Человечество с тревогой обсуждает, как искусственный интеллект однажды захватит власть, лишит людей контроля и самостоятельности. Между тем никто ничего не захватывает. Люди сами передают машинам интеллектуальную работу, а теперь пытаются передать и ответственность за её последствия. При этом требуют сохранить за собой исключительные профессиональные права и общественное признание.

Но субъектность — это не привилегия принимать правильные решения. Это готовность признавать своими и ошибки.

Врач, который использует ИИ, может быть гораздо эффективнее врача, который его игнорирует. Но врач, который лишь озвучивает рекомендации алгоритма и заранее отказывается отвечать за собственные действия, превращается в дорогостоящего посредника.

И тогда вопрос «зачем мне врач?» перестаёт быть провокацией. Он становится вполне рациональным.

Искусственному интеллекту не нужно отнимать у человека его место. Человек сам освобождает его — и просит законодательно закрепить за ним право ни за что не отвечать.