تحلیل و نقد هوش‌مصنوعی در طبابت از منظر معرفت‌شناسی

نوع مقاله: علمی-پژوهشی

نویسندگان

1 دانشجوی دکترای فلسفۀ علم و فناوری- پژوهشگاه علوم انسانی و مطالعات فرهنگی

2 عضو هیئت علمی پژوهشگاه علوم انسانی و مطالعات فرهنگی

چکیده

خطای پزشکی امری اجتناب‌ناپذیر در طبابت است که پدیده‌ای آسیب‌رسان است ودر مواردیباعث مرگ بیماران می‌شود. در سالیان گذشته تلاش‌های بسیاری انجام‌شده تا هوش‌مصنوعی جایگزین پزشک شودکه‌تا حدممکن از خطاهای پزشکی اجتناب شود. سیستمهای هوشمند پزشکی سیستمهایی تشخیصی هستند که پس از شناسایی بیماری، پیشنهاد درمان به بیمار ارائه می‌نمایند. سیستمهای اولیه مانندMYClN و INTERNIST-I جهت مشاوره برای پزشکان طراحی شدند. اما علیرغم اینکه کارایی خوبی از خود نشان دادند، ندرتاً خارج از آزمایشگاه‌های تحقیقاتی به‌کار گرفته‌شدند. سیستمهایی که بعد از آن هم توسعه‌یافتند موفقیت کافی نیافتند تا جایی که علاقه‌مندی پژوهشگران در این حوزه کم‌کم رنگ باخت. عدمِ‌توجه به مسائل معرفت‌شناختی یکی از مهمترین موانعبرای رسیدن به موفقیت برای این سیستمها بوده‌است. در این مقاله به منظور جستجوی این موانع ابتدا خطاهای‌شناختی در پزشکی که منجر به روی‌آوردن به هوش‌مصنوعی شده است معرفی شده و سپس معرفت‌شناسی پزشکی را مرور کرده‌ایم. تعدادی از سیستم‌های هوش‌مصنوعی در پزشکی با تأکید بر ساختارِ دانش آنها را مورد بررسی قرار دادیم. نهایتاًدلایل معرفت‌شناختی عدم‌موفقیت سیستم‌های هوش‌مصنوعی در حوزه پزشکی تشریح شده‌اند که عبارتند از پیش‌فرضهای نادرست در باب ماهیّت دانش، جداسازی دانش از استراتژیهای تصمیم‌گیری، عدم‌توجه به معرفت ضمنی و جدا پنداشتن دانش از زمینه.

کلیدواژه‌ها


عنوان مقاله [English]

A Philosophical reflection on Artificial Intelligence in Clinical Practice: Epistemological approach

نویسندگان [English]

  • elahe soroush 1
  • Alireza Monajemi 2
2 Faculty member of Institute for Humanities and Cultural Studies, Tehran
چکیده [English]

In today’s world, technology plays an important and crucial role in medicine and healthcare. Medical Artificial Intelligence and Expert Systems are only subsets of the technologies which try to provide automated decision aids for physicians and clinicians. Their goal is to diagnose the illness and make treatment recommendations. MYClN and INTERNIST-I are among the earliest developed expert systems. However, despite the fact that several of these medical systems have achieved high levels of performance, hardly any has progressed from the research laboratory into practical use. But because of overpromising and failing to deliver them, in artificial intelligence researches face toreduced funding and interest. One of the major reason of these failures is inadequate attention and studies about epistemological considerations. In this paper we are looking for some epistemological obstacles which prevent AI from being successful in medicine. To do so we first briefly introduce cognition errors in medicine which motivate using AI in this field, then review several implemented medical AI systems and finally we discuss epistemological reasons which leads to failure of AI in medicine. These reasons are incorrect hypotheses about nature of knowledge, separating knowledge from decision strategies, inadequate consideration to tacit knowledge and separating knowledge from its context.

کلیدواژه‌ها [English]

  • Artificial Intelligence
  • Medical Epistemology
  • Medical Errors
  • Philosophy of Medicine
  • Expert System
Buchanan B, and Shortliffe EH (eds.), (1985) Rule-BasedExpert Systems. The MYCIN Experiments of the Stanford Heuristic ProgrammingProject. Addison-Wesley.

Croskerry. Pat, (2013) “50 Cognitive and Affective Biases in Medicine”, Critical Thinking Program, Dalhousie University

Dreyfus HL. (1972) What Computers Can’t Do: A Critique of Artificial Reason. New York: Harper & Row.

Dreyfus HL (2007), “Why Heideggerian AI failed and how fixing it would require making it more Heideggerian”, Artificial Intelligence Volume 171, Issue 18, December 2007, Pages 1137-1160

Freedman, D. (2017), “A Reality Check for IBM”s AI Ambitions”, MIT Technology Review

Heckerman, D. Shortliffe, E. (1992),“From certainty factors to belief networks”, Artificial Intelligence in Medicine Volume 4, Issue 1, Pp. 35-52

IBM, (2017),”Empowering Heroes, Transforming Health”, https://www.ibm.com/watson/ health/

Klinov.P, Parsia.B and Picado-Mui˜no. D, (2010), “The Consistency of the CADIAG-2 Knowledge Base: A Probabilistic Approach”.International Conference on Logic for Programming Artificial Intelligence and Reasoning, pp 432-446

Latour B, and Woolgar S. (1986), Laboratory Life. The Construction of Scientific Facts. Princeton, NJ: Princeton University Press.

Long. W. (1989), “Medical Diagnosis Using a Probabilistic Causal Network”Applied Artificial Intelligence, spring 1989.

Lorber, J and Moore, L.J (2002), Gender and the Social Construction of Illness,Rowman Altamira, Mordad 29, 1381 AP - Health & Fitness

Miller RA, Pople HE Jr., and Myers JD. (1982) “INTERNIST-1: Anexperimental computer-based diagnostic consultant for general internal medicine”.N Engl J Med 1982; 307:529–537.

NIH 1994. Helicobacter pylori in peptic ulcer disease. NIH ConsensusStatement 1994 Jan 7–9; 12(1):1–23.

Patel V.L., Shortliffe E.H., Stefanelli M., et al. (2009) The coming of age of artificial intelligence in medicine, Artificial Intelligence in Medicine, Volume 46, pp. 5-17

Putnam, H. (1988), “Much Ado about Not very Much, Daedalus”, Artificial Intelligence Volume 117, No 1: pp. 269-281

Sadegh-Zadeh, K. (1989) “Machine over mind”, Artificial Intelligence in Medicine1: pp. 3-10

Sadegh-Zadeh. K, (2015) Handbook of Analytic Philosophy of Medicine, 2nd edition. Dordrecht / Holland: Springer, (1st ed., 2012.)

Searle, J.R. (1980), “Mind, Brain and Program.”Behavioral and Brain Scientist, Volume 3 (Issue3):pp. 417-424

Singh. H, Petersen. L A, and Thomas. E J, (2006)“Understanding diagnostic errors in medicine: a lesson from aviation”, Qual Saf Health Care. Jun; 15(3): 159–164.

STAT News, “IBM pitched its Watson supercomputer as a revolution in cancer care. It’s nowhere close”,https://www.statnews.com/2017/09/05/watson-ibm-cancer/

Thagard P. (1999) How Scientists Explain Disease. Princeton, NJ: Princeton University Press.

Weiss SM, Kulikowski CA, Amarel S, and Safir A. (1978),“A modelbasedmethod for computer-aided medical decision making.” Artificial Intelligence1978; 11:145–172.

Yu, V L. Fagan L M. Wraith; et al. (1979). “Antimicrobial Selection by a Computer: A Blinded Evaluation by Infectious Diseases Experts “. JAMA. 242 (12):1279-1282.

Zadeh LA. (1965a),“Fuzzy sets. Information and Control” 1965; 8:338–353.

Zadeh LA. (1965b), “Fuzzy sets and systems”. In Fox J (ed.), System Theory,pp. 29–39. Brooklyn, NY: Polytechnic Press, 1965.

Zadeh LA. (1973) Outline of a new approach to the analysis of complex systems and decision processes. IEEE Trans. Systems, Man and Cybernetics; 3:28–44.