طراحی ابزاری برای جلوگیری از رفتار تبعیض آمیز محصولات هوش مصنوعی
محصولات هوش مصنوعی بر مبنای الگوریتم های طراحی شده برای آنها ممکن است رفتارهای تبعیض آمیزی را بر علیه برخی نژادها و جنسیت ها اعمال کنند و حالا ابزاری برای حل این مشکل ابداع شده است.
به گزارش خبرگزاری مهر به نقل از فیوچریسم، شرکت مایکروسافت می گوید به زودی ابزاری ارائه می کند که الگوریتم های مورد استفاده در محصولات هوش مصنوعی را بررسی می کند و در صورتی که تشخیص دهد این محصولات رفتارهای نژادپرستانه یا مغرضانه دارند، این موضوع را اعلام می کند.
در سال های اخیر گوگل و فیس بوک با طراحی انواع ابزار هوش مصنوعی گوی سبقت را از رقبا ربوده بودند، اما حالا مایکروسافت اعلام کرده که الگوریتم جدید این شرکت می تواند جلوی وقوع بسیاری از مشکلاتی که ناشی از طراحی غیردقیق الگوریتم هایی توسط شرکت های رقیب است را بگیرد.
به نظر می رسد ابزار مذکور کارکردهای فراوانی به خصوص در حوزه های قضایی و انتظامی پیدا کند و نیروهای پلیس از آنها برای افزایش دقت فعالیت های خود استفاده کنند.
پیش از این هم برخی نگرانی ها در مورد سوگیری و عدم بی طرفی محصولات هوش مصنوعی موجب شد تا تعدادی از شرکت های فناوری ناظرانی را برای بررسی کدنویسی این محصولات به کار بگیرند، اما ابزار تازه مایکروسافت می تواند این مشکل را از اساس حل کند.
