بررسی مسائل اخلاقی در سیستمهای هوشمند

نوع مقاله: مقاله علمی پژوهشی

نویسندگان

1 . عضو هیئت علمی دانشکده مهندسی دانشگاه قم

2 استادیار گروه فلسفه- دانشگاه قم

چکیده

با وجود مزایای انکار  نشدنی سیستم های رایانه‌ای هوشمند و کاربردهای حیرت برانگیز آنها در پیشبرد آموزش، صنعت و فرهنگ کشورهای مختلف، مسائل اخلاقی بسیاری در مورد آنها مطرح شده است. در این مقاله پس از تعریف هوش مصنوعی و سیستمهای هوشمند، ابتدا به بررسی مسائل  اخلاقی مشترک بین سیستمهای هوشمند و سیستم های رایانه­ای و شبکه جهانی می‌پرازیم، سپس مهمترین مسائل اخلاقی مرتبط با دو نوع سیستم هوشمند مورد بررسی قرار می‌گیرند. 
مهمترین مسائل اخلاقی مشترک میان سیستمهای هوشمند و غیرهوشمند رایانه‌ای به تاثیر رایانه‌ها در محیط های کاری، امنیت این سیستمها، تکثیر غیر مجاز و مشکلات ناشی از بی‌نامی برمی­گردد. سیستمهای داده­کاوی و خبره دو نوع ازسیستمهای معروف و پرکاربرد هوشمند هستند که مسائل اخلاقی هر یک به طور خاص و جداگانه مورد بررسی قرار گرفته است.
 

تازه های تحقیق

نتیجه

اگرچه فناوری اطلاعات و تکنولوژی نوین هوش مصنوعی دستاوردهای بسیاری به همراه داشته است، نگرانیهایی نیز برای بشر ایجاد کرده است. در این مقاله به بررسی مسائل اخلاقی مرتبط با این سیستمها پرداخته شده است. ورود رایانه‌ها به بازار کار موجب از بین رفتن برخی مشاغل سنتی و ایجاد بعضی موقعیت های جدید کاری شده است. ویروسها و هکرها امنیت سیستم های رایانه‌ای را تهدید می‌کنند و مسئله نسخه برداری و حق مالکیت فکری همچنان جنجال برانگیز است. یکی ازمهمترین مسائل مرتبط با تکنولوژی اطلاعات، امکان ارائه اطلاعات در وسعت جهانی است. مشکل اصلی ایجاد شده در این زمینه این است که امکان تایید صلاحیت اطلاعات صحیح و متمایز کردن آنها از اطلاعات غلط و دستکاری شده کم شده است. 

در این مقاله در مورد مسائل اخلاقی دو نوع سیستم هوشمند خاص یعنی سیستمهای داده کاوی و سیستم های خبره بحث شده است. سیستمهای داده کاوی به کشف اطلاعات،  در پایگاههای داده بزرگ و اینترنت می‌پردازند. سه مسئله اخلاقی مرتبط با اینها عبارتند از: اطلاع نداشتن افراد از جمع آوری اطلاعاتشان، اطلاع نداشتن افراد از نحوه استفاده از این اطلاعات و راضی نبودن آنها از این استفاده. این سیستمها موجب ایجاد بحث های جدید در حوزه حریم خصوصی شده اند.

سیستم‌های خبره، سیستم‌های تصمیم گیری در یک زمینه تخصصی هستند که انتظار می‌رود به منظور داشتن حداقل توانایی های مشابه انسان در تصمیم‌گیری‌های اخلاقی، دارای ویژگی‌های انسان باشند. عملکردهای سیستم خبره بنابر اطلاعات، قوانین استنباطی و معیارهای هدف، مشکل‌ساز است. مقالة موجود سه دلیل اصلی مسائل اخلاقی را به هنگام استفاده از سیستم‌های خبرة موجود در سمت تصمیم‌گیری مورد توجه قرار می‌دهد.

دلایل مذکور عبارتنداز: (1) برخوردار نبودن سیستم‌های خبره از هوش انسان (2) برخوردار نبودن سیستم‌های خبره از احساسات و ارزش‌های اخلاقی  (3) احتمال ایجاد انحراف تصادفی یا آگاهانه. از این رو مسائل اخلاقی هوش مصنوعی، تخیل محسوب می‌شود. بنابراین سیستم‌های خبره می‌بایست تنها در مقام مشورتی استفاده شود و مدیران به هنگام استفاده از آنها در تصمیم‌گیری نباید خود را از مسئولیت اخلاقی و قانونی تبرئه کنند.

کلیدواژه‌ها


عنوان مقاله [English]

Investigation into Ethical Issues of Intelligent Systems

نویسندگان [English]

  • Marziyah Davoodabadi 1
  • Zahra Khazaei 2
2 Assistant Professor, University of Qom
چکیده [English]

Despite of the undeniable advantages and surprising applications of them in training and industry as well as cultures of different countries, there have been many ethical issues concerning intelligent and computer systems. Presenting a definition of artificial intelligence and intelligent systems, the research paper deals with the shared ethical issues of intelligent systems, computer systems as well as the global network; and then it concentrates on the most important ethical issues of two types of intelligent systems, i.e. data-analysis system and expert system.

 

کلیدواژه‌ها [English]

  • artificial intelligence
  • intelligent systems
  • computer ethic
  • data analysis
  • expert system
  • security of systems

 

[1]   Belohlav, Jim, Drehmer, David, Raho, Louis ,(1997),”Ethical Issues of Expert Systems”, Online

[2]   Journal of Ethics, vol. 1, no. 1

Bynum , Terrell ,(2001), “Computer Ethics: Basic Concepts and Historical Overview”, Stanford Encyclopedia of Philosophy , http://plato.stanford.edu/entries/ethics-computer/

Crnkovic ,Gordana D., (2006), “Professional Ethics in Computing and Intelligent Systems”, M/Cyclopedia of New Media, http://www.stes.fi/scai2006/proceedings/011-016.pdf.

DeRoos, J.Barry, (2003),“Ethics in computer science”, http://hom e.messiah.edu /~deroos /personal /copy .htm

Khalil, Omar E. M., (1993), “Artificial Decision-Making and Artificial Ethics: A Management Concern”, Journal of business ethics, vol. 12, no. 4 , 313-321.

Lawler, James, Molluzzo, John C., (2005), “A study of data mining and information ethics in the development of information systems professionals”, proceedings of student/faculty research day, CSIS, PaceUniversity.

[3]   McCarthy, John, (2007), “Applications of AI”,  http://www-formal. stanford. Edu /jmc/ whatisai/ node2 .html

McCarthy, R. L. and Perrolle, j. A. , )1990(, “Ethics and the Computerization of Pharmacy”, Proceedings of the Conference on Computers and the Quality of Life (The GeorgeWashingtonUniversity, Washington, DC), 157-163.

Mereditha , Rob & Arnottb, David,(2003), “On Ethics and Decision Support Systems Development”, 7th Pacific Asia Conference on Information Systems, Adelaide, South   Australia.

Moor, James, (1997), ‘‘Towards a Theory of Privacy in the Information Age.’’, Computers and Society 27, no. 3 (September): 27–32.

Phan, Trang Ann, (2003), “The ethics in artificial intelligence system”, ethics in technology, http://www.123helpme.com/view.asp?id=37012.

[4]   Russell, S. J. , & Norving, P., Artificial Intelligence, Prentice-Hall, 1999.

Stallman, Richard (1992) "Why Software Should Be Free", Software Ownership and Intellectual Property Rights, ResearchCenter on Computing & Society, 35-52.

Tavani, Herman T.,(1999), ” KDD, data mining, and the challenge for normative privacy”, Ethics and Information Technology, 265–273.

Tavani, Herman T.(2007), “Philosophical theories of privacy: implications for an adequate online privacy policy”, Journal compilation, metaphilosophy LLC and Blackwell Publishing Ltd, Vol. 38, No. 1

Tavani, Herman T., and James H. Moor. (2001). ‘‘Privacy Protection,Control of Information, and Privacy-Enhancing Technologies.’’ Computers and Society 31, no. 1:6–11.

Trang Ann Phan,( 2003 ), “the ethics in artificial intelligence system”, http: //cseserv .engr .scu .edu / StudentWebPages /TPhan/index.html

Vedder , Anton,(2001), ” Misinformation through the Internet: Epistemology and Ethics”, Ethics and the Internet, Oxford, 125-132.

Vedder , Anton,(1999), “KDD:the challenge to individualism:”, Ethics and information technology, vol. 1,275-281.

Weizenbaum, J.,  (1976) , Computer Power and Human Reason, MIT Press, Cambridge.

Wel, L.V., Royakkers, L., (2004), “Ethical issues in web data mining”, Ethics and information technology,vol. 6,129-149.

[5]     فهیمی، مهرداد، (1375)، هوشمصنوعی، انتشارات جلوه.

غضنفری، مهدی، کاظمی، زهره، (1382)،سیستمهای خبره، انتشارات دانشگاه علم وصنعت

CAPTCHA Image