فیزیکدان استفن هاوکینگ اخیرا از خطرات هوش مصنوعی و "سلاح های قدرتمند مستقل" هشدار داده است .فناوری مستقل در حال پیشروی است، اما بحث های بین المللی در مورد مدیریت خطرات احتمالی در حال انجام است.
این هفته، ملت ها چهارمین سال مذاکرات بین المللی در سازمان ملل متحد در مورد سلاح های اتمسفر مرگبار، و یا آنچه بعضی از آنها "روبات های قاتل" نامیده اند. مذاکرات سازمان ملل متحد در مورد سلاح های آینده گنجانده شده است، اما سلاح های اتوماتیک ساده برای از بین بردن موشک های وارد شده به مدت چندین دهه به طور گسترده ای مورد استفاده قرار گرفته اند .
همان فن آوری کامپیوتری که توانایی استفاده از خودروهای خود ران را دارد، می تواند برای استفاده از سلاح های هوشمند و مستقل استفاده شود.
پیشرفت های اخیر در هوش مصنوعی، سلاح های پیشرفته تر را قادر می سازد که اهداف خود را شکار کنند. Kalashnikov، تولید کننده سلاح روسیه در اوایل سال جاری اعلام کرد که در حال توسعه یک ماژول جنگی کاملا اتوماتیک مبتنی بر شبکه های عصبی است که اجازه می دهد سلاح به "شناسایی اهداف و تصمیم گیری" برسد. 
آیا ادعاهای کلاشنیکف درست است یا خیر، تکنولوژی اساسی که دستگاه های خودپرداز را فعال می کند، آینده است.
برای چندین سال گذشته، یک کنسرسیوم از سازمان های غیردولتی خواستار ممنوعیت تسلیحات اتفاقی کشنده قبل از ساخت آنها شده است. یکی از نگرانی های آنها این بود که سلاح های رباتیک می تواند باعث تلفات بیشتر غیرنظامیان شود. مخالفان ممنوعیت مخالفت کرده اند که سلاح های خودمختار ممکن است دقیق تر دشمن را هدف قرار دهند و از افراد غیرنظامی بهتر از انسان ها جلوگیری کنند؛ همانطور که خودروهای خود رانندگی ممکن است روزی یک جاده را امن تر کند.
طبقه بندی های تصویر ماشین، با استفاده از شبکه های عصبی قادر به ضرب و شتم انسان در برخی از آزمون های تشخیص تصویر معیار است. ماشین آلات نیز در شرایطی که نیاز به سرعت و دقت دارند فوق العاده است.
این مزایا نشان می دهد که ممکن است ماشین ها بتوانند در بعضی موقعیت های جنگی از انسان پیشی بگیرند، مثلا به سرعت تعیین اینکه آیا یک فرد دارای سلاح است یا خیر.
ماشین ها همچنین می توانند حرکات بدن انسان را ردیابی کنند و حتی ممکن است بتوانند فعالیت های بالقوه مشکوک مانند شخص را که می تواند یک سلاح پنهان باشد، سریع تر و قابل اطمینان تر از یک انسان می بیند.
هوش مصنوعی در حال حاضر دارای نقاط ضعف بسیاری است.شبکه عصبی آسیب پذیر به یک نوع حمله دروغین (ارسال داده های دروغین) است که می تواند شبکه را گمراه کند. جعلی "تصاویر احمقانه" می تواند مورد استفاده قرار گیرد تا سیستم های طبقه بندی تصویر را به باور برساند که یک تصویر دیگر و با اطمینان بسیار بالا است.
علاوه بر این، این تصاویر فریبنده را می توان به طور مخفیانه در داخل تصاویر منظم جاسازی شده به نحوی که غیر قابل کشف برای انسان است. مخالفان نیازی به دانستن کد منبع یا داده های آموزشی که شبکه عصبی آن به منظور فریب شبکه استفاده می کند را نمی دانند و این آسیب پذیری را برای برنامه های واقعی این سیستم ها آسیب پذیر می کند.
به طور کلی، هوش مصنوعی امروز شکننده است و فاقد قدرت و انعطاف پذیری هوش انسانی است.
انسانها نیز قادر به درک پیامدهای اخلاقی جنگ هستند، که ماشینها حتی امروزه نمیتوانند از راه دور نزدیک شوند. بسیاری از تصمیم گیری ها در جنگ جواب ساده ای ندارند و نیاز به مقادیر رقابتی دارند.
میتوانید متن کامل این خبر را ازاین لینک دنبال کنید .
www.roustanews.com