خطرات سوء استفاده و خطاها در هوش مصنوعی

اقتصاد ایرانی: اندیشکده رند در مقاله ای چالش اثر متقابل الگوریتمیک را به نمایش گذاشته شده و اینکه چرا ما می توانیم انتظار دیدن یک توسعه وابستگی الگوریتمی را داشته و کدام بهترین گزینه برای کاهش ریسک در آینده می تواند باشد.

خطرات سوء استفاده و خطاها در الگوریتم ها و هوش مصنوعی تا زمانی که عوامل مصنوعی نفش پر اهمیت فزاینده ای را در زندگی ما ایفا خواهند کرد و بدون قانون باشد، ادامه خواهد یافت.

پاسخ به عوامل غیر مجاز مصنوعی به سه نوع گسترده گرایش دارد: ممانعت از همه الگوریتم ها، الگوریتم های اساسی را شفاف ساختن یا ممیزی کردن خروجی الگوریتم ها. ممانعت و جلوگیری از الگوریتم ها احتمالا غیر ممکن باشد.

گزینه های اندک دیگری برای مفهوم دار کردن تخلیه کنونی اطلاعات وجود دارد. شفافیت الگوریتم ها نیز نیازمند مردم آموزش دیده بیشتری است که قادر به درک الگوریتم ها باشد. اما پیشرفت های اخیر در یادگیری ارتباط گیری عمیق، بدین معنا می باشد که حتی اگر بتوانیم یک روند الگوریتمی را بازسازی کنیم، احتمالا همچنان کاربردی ساختن آن مشکل باشد.

کار تحقیقاتی "کریستیم ساندویگ" استدلال کرده که آخرین گزینه ممیزی الگوریتم بوده و باید مسیر رو به جلویی انتخاب گردد.

انواع ممیزی های ویژه، کارهای داخلی عوامل تصنعی را نادیده گرفته و تنها آنها را بر اساس نتایج کارهایشان مورد قضاوت قرار می دهد.

این موضوع وابسته به این است که تا چه اندازه عوامل بشری مورد قضاوت قرار می گیرد: توسط نتایج خروجی هایشان (تصمیم ها و اقدامات) و نه بر اساس محتوا یا خلافیت پایگاه داده های خود (افکار).

این گزینه بیشترین مفهوم را برای سیاست گذاران ایجاد کرده و معیارهایی برای اخلاق عرفی عوامل تصعنی ایجاد می کنند. قانونگذاری تحت این چارچوب بسیار ساده است. بحث کردن درباره این موارد ممکن است گاهی اوقات باعث ایجاد عوامل انسان شناسی مصنوعی شود: تمامی ماشین ها شروع به فکر کردن شبیه ما شده و بنابراین چگونه می توانیم درباره آنها قضاوت کرده و آنها را هدایت کنیم؟

پیشرفت های کنونی در عوامل مصنوعی ممکن است باعث این شود که دیدگاه انسان شناسی الگوریتمی بسیار نزدیک به دیدگاه معمولی شود. این موضوع می تواند مزایای غیر قابل پیش بینی در تغذیه درک مردم از عوامل تصعنی شود.

برای مشاهده فایل کامل این گزارش اینجا را کلیک کنید.