عدالت در هوش مصنوعی

عدالت در هوش مصنوعی




یکی از مسائل مهم در دنیا، هوش مصنوعی است که شرکت های ابر قدرت دنیا بر سر توسعه این سیستم دعوا دارند و هر کدام به نوعی در تلاش برای توسعه هرچه بیشتر هوش مصنوعی هستند. اما یکی از مهم ترین مسائل این است که آیا عدالت در هوش مصنوعی وجود دارد یا سیستم های هوش مصنوعی به صورت متعصبانه رفتار میکنند. در ادامه نقشه اینترنت اشیا ایران به شرح این موضوع مهم می پردازیم.
در حال حاضر شما هوش مصنوعی را در همه جا در ابعاد مختلف میتوانید پیدا کنید. هوش های مصنوعی توانایی های مختلفی را در حال حاضر دارند و میتوانند تمامی کار های دنیای ما را خودشان انجام دهند.
عدالت در هوش مصنوعی در واقعیت
سازندگان هوش های مصنوعی ادعا میکنند که این سیستم ها را در راستای ارتقا زندگی بشر و در راستای منافع آن طراحی کرده اند.
اما در حال حاظر ما در مورد های متفاوت دیده ایم که هوش های مصنوعی از برخی از سوگیری ها و تعصب های مختلف مثل تفاوت بین زن و مرد، دیدگاه های نژاد پرستانه و … پیروی می کنند. که البته برخی از این الگوریتم ها به صورت عمدی و برخی به صورت غیر عمدی به اینگونه طراحی شده اند.
به تازگی محققین از ساخت الگوریتمی و چارچوبی صحبت میکنند که میتواند این موارد را رفع کند و از سوگیری ها تعصبات جلوگیری کند.
سیستم های ایمن و با عدالت
در راستای عدالت در هوش مصنوعی محققان دانشگاه ماساچوست جدیدا تحقیقات گسترده ای انجام داده اند که میتواند تمامی مشکالات و ایرادات بالا را رفع کند. فیلیپ توماس، پژوهشگر یادگیری ماشین می‌گوید:
“وقتی الگوریتم یادگیری ماشین به‌‌کار گرفته می‌‌شود، کنترل رفتار آن دشوار خواهد بود. ازآنجاکه تأثیر الگوریتم‌‌های ماشینی روی زندگی ما همواره بیش‌‌تر‌و‌بیش‌‌تر می‌شود، بسیار مهم است که بتوانیم از تضمین انصاف و اجتناب از هرگونه آسیب این سیستم‌ها مطمئن شویم.”
در این تحقیقات شیوه تزریق مباحث اخلاقی و ذاتی انسان به هوش مصنوعی نیست بلکه تغییرات بخصوصی در الگورتیم هسته هوش مصنوعی است که باعث ایجاد فیلتر هایی برای رفتار های نامطلوب سیستم می شود.
به این الگوریتم‌‌های سلدونین (Seldonian)گفته می شود. این اسم یکی از شخصیت‌‌های اصلی سری رمان‌‌های علمی‌تخیلی معروف «بنیاد» اثر آیزاک آسیموف است.
یکی دیگه از کاربرد های این الگوریتم علاوه برایجاد عدالت در هوش مصنوعی، کنترل رفتار های مشتمل‌‌بر جوانب پیچیده‌‌ی ایمنی سیستم‌‌های پزشکی است.توماس ادامه می‌‌دهد:
“اگر مثلا در حال استفاده از الگوریتم سلدونین در درمان دیابت باشم، می‌‌توانم رفتار نامطلوب را به‌‌صورت سطح پایین قندخون یا هیپوگلیسمی تعریف کنم و به ماشین بگویم که «وقتی در حال بهبود کنترلگر در پمپ انسولین هستی، تغییراتی انجام نده که موجب افزایش دفعات رخداد هیپوگلیسمی شود». بیشتر الگوریتم‌‌ها راهکاری برای اعمال چنین محدودیت‌‌هایی در رفتار ماشین ارائه نمی‌‌کنند و در طراحی‌های پیشین چنین امکانی لحاظ نشده بود.”
با توجه به تمام نکات گفته شده در بالا باز هم ما نیاز به بهبود زیادی را میبینیم و امیدواریم که به زودی این بهبود ها ایجاد شود و بتوان سیستم های حرفه ای را داشته باشیم که دیگر نیازی به نگرانی در مورد عدالت در هوش مصنوعی نباشد. در ادامه نقشه اینترنت اشیا ایران ادامه اخبار این مباحث را برای شما خواهیم نوشت.