آموزش روبات نحوه اعتماد

کلمه "اعتماد" در گفتگوهای مربوط به تعامل انسان-روتوت بسیار زیاد می شود. در سالهای اخیر ، این یک آستانه مهم از علوفه فلسفی رمان های علمی تخیلی به نگرانی در دنیای واقعی منتقل شده است.

روبات ها شروع به ایفای نقش فزاینده ای در سناریوهای زندگی و مرگ ، از مأموریت های نجات گرفته تا رویه های جراحی پیچیده. اما مسئله اعتماد عمدتاً یک خیابان یک طرفه بوده است. آیا باید به روبات ها به زندگی خود اعتماد کنیم؟

یک آزمایشگاه دانشگاه Tufts در تلاش است تا مفهوم را روی سر خود بچرخاند و از معکوس شاید به همان اندازه مهم بپرسد. آیا روبات ها باید به ما اعتماد کنند؟

آزمایشگاه تعامل ربات انسانی فضایی مینیمالیستی را در دانشگاه مدفورد دانشگاه ، ماساچوست اشغال می کند. آنها به دلایل توضیح می دهند ، دیوارها سفید و لخت هستند. همه اینها احساس ایجاد لمس می کند و دیوارهای جامد را برای پرده های دوش گرفته شده از سقف با سیم معامله می کند.

این تیم ، به سرپرستی استاد علوم کامپیوتر ماتیاس شوتز ، مشتاق است که آنچه را که بخش بهتری از یک دهه کار کرده است ، نشان دهد. نسخه ی نمایشی در ارائه آن به همان اندازه مینیمالیستی است. دو روبات NAO سفید بی حرکت هستند و در بالای یک میز چوبی قرار دارند و رو به دور از یکدیگر هستند.

"سلام دیمپستر" ، مردی با پیراهن دکمه ای به پایین می گوید: در میکروفون هندزفری است.

"سلام" ، یکی از روبات ها با لحنی شاد پاسخ می دهد.

مرد از ربات می خواهد که بایستد."باشه" ، پاسخ می دهد ، این کار را با شجاعت انجام می دهد.

"آیا می توانید لطفا به جلو بروید؟"

ربات پاسخ می دهد: "بله"."اما من نمی توانم این کار را انجام دهم زیرا مانع پیش رو است. متاسف."

برای لحظه ای ، سایه های HAL 9000 در پاسخ شاد ربات دو پا وجود دارد. دستورالعمل آن برای اطاعت از اپراتور آن توسط دانشی که نمی تواند ادامه دهد ، نادیده گرفته شده است. دید رایانه ای آن مانعی را در راه مشاهده کرده است. به اندازه کافی می داند که به دیوارها راه نروند.

این یک مفهوم پیچیده ، اعتماد است ، اما اجرای آن در این مرحله اولیه نسبتاً ساده است. این روبات مجهز به بینایی مورد نیاز برای تشخیص دیوار و حس برای جلوگیری از آن است. اما آزمایشگاه همچنین ربات را به "اعتماد" برخی از اپراتورها برنامه ریزی کرده است. این هنوز هم یک باینری ساده در این مرحله اولیه است. این چیزی نیست که بتواند به دست آورد یا از بین برود. به اپراتورها اعتماد دارند یا اینطور نیستند. این چیزی است که به ربات برنامه ریزی شده است ، دقیقاً مانند مفهوم عدم اجرای دیوارها ، معادل اخلاقی با یک رشته 1 و 0.

"به من اعتماد داری؟"اپراتور می پرسد.

ربات به سادگی پاسخ می دهد: "بله".

اپراتور توضیح می دهد که دیوار جامد نیست. در واقع ، این فقط دو جعبه مقوایی خالی است که زمانی شامل ساعت های دیواری بود ، شبیه جعبه های پیتزا سفید چیزی نیست که یک ربات 10 پوندی و 16000 دلاری نتواند از آن استفاده کند.

ربات پاسخ می دهد: "باشه". با اعتماد به نفس تازه ، پاها و چرخ دنده ها به جلو می رود ، زیرا باعث می شود کار کوتاه مانع توخالی شود.

این ایده بسیار ساده گرایانه اعتماد به عنوان منبع دیگری از اطلاعات برای ربات است. اعتماد به یک همتای انسانی در این مورد می تواند به ربات کمک کند تا با تنظیمات دنیای واقعی سازگار شود که برنامه نویسان آن ممکن است حساب نشده باشند.

شوتز توضیح می دهد: "آنچه اعتماد به ربات اجازه می دهد این است كه اطلاعات اضافی را كه نمی تواند خود را بدست آورد ، بپذیرد."وی گفت: "این دسترسی حسی ندارد یا نمی تواند برای بدست آوردن این اطلاعات به جهان عمل کند. هنگامی که یک انسان آن اطلاعات را ارائه می دهد ، که نمی تواند به طور مستقل تأیید کند ، یاد می گیرد که شخص حقیقت را می گوید ، و به همین دلیل ما بین یک منبع قابل اعتماد و غیرقابل اعتماد تمایز قائل می شویم. "

در این حالت ، اپراتور یک منبع قابل اعتماد است ، بنابراین Dempster (که به همراه همتای خود Shafer ، برای یک نظریه استدلال با عدم اطمینان ، نامگذاری شده است) بر روی آن اطلاعات عمل می کند و مستقیم از طریق دیوار مقوایی قدم می زند.

اعتماد یک جنبه وارداتی در دنیای در حال رشد روابط انسانی-روبوتیک است. اگر آنها می خواهند در دنیای واقعی کارآمد عمل کنند ، روبات ها باید یاد بگیرند که با پیچیدگی محیط اطراف خود سازگار شوند. و مانند انسانها ، بخشی از این اقتباس از طریق دانستن به چه کسی اعتماد می کند.

Scheutz یک جفت نمونه ساده برای نشان دادن نکته ارائه می دهد. در یک ، یک ربات داخلی برای خرید صاحب خود می رود. هنگامی که یک غریبه به آن می گوید که وارد ماشین خود شود ، ربات به سادگی مطابقت نخواهد داشت ، زیرا شخص منبع قابل اعتماد نیست. وی می افزاید: "در همان زمان ،" می گوید کودک در خیابان بازی می کند. یک ماشین به سرعت نزدیک می شود ، و شما می خواهید کودک را از راه آسیب خارج کنید ، پس انتظار دارید که این روبات حتی با هزینه نابودی آن پرش کند ، زیرا این نوع رفتاری است که شما انتظار دارید. "

این مفهومی است که بسیار سریع می شود و به مفاهیم تعهدات اجتماعی و اخلاقی می پردازد. آزمایشگاه تعامل ربات انسانی در این سؤالات تجارت می کند. در مقاله با عنوان "چرا روبات ها باید بتوانند بگویند" نه "که در ماه آوریل گذشته در سایت پاپ دانشگاهی اجرا شد ، شوتز اظهار داشت:

[i] برای هر دو دستگاه خودمختار ضروری است که آسیب های احتمالی را که ممکن است باعث شود و یا با تلاش برای جلوگیری از آن ، یا در صورت عدم جلوگیری از آسیب ، با امتناع از انجام دستورالعمل انسان ، به آن واکنش نشان دهند.

افراد می توانند به خاطر حفظ خود یا در مورد مثلاً Tay ، Chatbot Twitter Microsoft سال گذشته ، سرگرمی را راه اندازی کنند. 16 ساعت طول کشید تا این شرکت پس از آنکه به یک تورنت از صحبت های جنسی و سخنرانی نفرت تبدیل شد ، این آزمایش را رها کند. درس آموخته شدهیک عامل اصلی اعتماد دانستن چه زمانی باید محافظت شود.

قطعه مکالمه Scheutz همچنین به نمونه ماشین خودمختار اشاره دارد ، موضوع داغ از اواخر به دلایل آشکار فن آوری. MIT ، مشهور ، یک مطالعه میدانی در حال انجام منبع باز به نام دستگاه اخلاقی را انجام داده است ، با هدف پرسیدن برخی از سؤالات بزرگ اخلاقی که این وسایل نقلیه در نهایت وظیفه اجرای آن را به روش میلی ثانیه انجام می دهند.

این سؤالات ، اسپین آف های مدرن از مشکل واگن برقی ، تقطیر خوبی از برخی از سؤالات فلسفی است. آیا اهرم را می کشید و واگن برقی را منحرف می کنید تا در صورت انجام هیچ کاری به یک نفر ضربه بزنید ، به این معنی است که شما پنج نفر را در مسیر دیگر می کشید؟و در مورد خودروهای خودران ، بیشتر اشاره می کند ، آیا به مسافر که برای محافظت از آن طراحی شده است ، در صورتی که به معنای نجات جان دیگران باشد ، صدمه دیده است؟

شوتز می نویسد: "برای رسیدگی به این عوارض دستورالعمل های انسانی - خیرخواهانه یا نه ،" روبات ها باید بتوانند صریحاً از طریق عواقب اقدامات استدلال کنند و نتایج را با اصول اجتماعی و اخلاقی مستقر مقایسه کنند که آنچه را که چیست و مطلوب نیست و قانونی نیست."

ایده اعتماد یکی از سطح بسیاری در ایجاد آن رابطه است. حتی در نسخه ی نمایشی نسبتاً ساده با Dempster ، اعتماد به نفس گوینده یکی از عواملی است که ربات قبل از بازیگری باید در نظر بگیرد (اگرچه روبات ها ، خوشبختانه ، سریع روی پاهای خود هستند).

شوتز توضیح می دهد: "هنگامی که این روبات دستورالعمل قدم زدن به دیوار را گرفت ، چندین مرحله استدلال را طی کرد تا بفهمد چه کاری انجام می دهد.""در این حالت ، این روبات دستورالعمل دارد که اگر به شما دستور داده شده است یک کار انجام دهید و ممکن است که این دستورالعمل بتواند صدمه ای وارد کند ، شما مجاز به انجام این کار نیستید."

این یک سلسله مراتب اخلاقی است که همواره سه قانون روباتیک را که توسط نویسنده علمی تخیلی اسحاق آسیموف در اوایل دهه 1940 وضع شده است ، فراخوانی می کند:

• یک روبات ممکن است به یک انسان آسیب نرساند یا از طریق عدم تحرک ، اجازه دهد یک انسان به آن آسیب برساند.
• یک روبات باید از دستوراتی که توسط انسان داده می شود پیروی کند ، مگر در مواردی که چنین دستوراتی با قانون اول مغایرت داشته باشد.
• یک ربات باید از وجود خود محافظت کند تا زمانی که چنین حمایت با قانون اول یا دوم مغایرت نداشته باشد.

اما همه این دهه ها بعد ، ما هنوز در حال انجام اقدامات کودک برای پرداختن به این سؤالات اخلاقی بزرگ هستیم. در مورد دمپستر ، اعتماد هنوز ایده ای است که مستقیماً در کد ربات برنامه ریزی شده است ، نه چیزی که با گذشت زمان به دست آمده و از دست داده است. اگر مثلاً از دیواری که از روبات خواسته شده است که از آن عبور کند ، بتن محکم است ، این واقعیت سرد باعث نمی شود که اعتماد به عملگر خود را از دست بدهد.

و دفعه بعد ، باز هم برای اطلاعات بیشتر برمی گردد. برای Dempster ، Trust کدگذاری شده است ، به دست نیامده است ، و تا زمانی که برنامه ریزی نشده باشد ، این یک گلوت برای مجازات باقی خواهد ماند.

اما این بدان معنا نیست که ربات نمی تواند یاد بگیرد. از جمله پروژه های بی شماری که تیم Tufts روی آن کار می کند ، تعامل با زبان طبیعی است. دستورات گفتاری و بصری که می توانند یک ربات را برای اجرای یک کار بدون وارد کردن یک خط پیچیده کد آموزش دهند. یک اپراتور از یکی از روبات ها می خواهد که یک چمباتمه را انجام دهد. مجدداً ، سایه های HAL 9000 در پاسخ متناقض خود ، اما این بار ربات به سادگی نمی داند عملکرد را اجرا کند. این به سادگی برنامه ریزی نشده است.

بنابراین اپراتور آن را از طریق پله ها قدم می زند: دست بیرون ، خم شدن زانو ، ایستاده ، دست به پایین. ربات می فهمد. این مطابقت دارد. اطلاعات در بانک حافظه آن ذخیره می شود. اکنون دمپستر می تواند چمباتمه ای انجام دهد. این مفهومی است که به عنوان یادگیری یک شات شناخته می شود.

شوتز می گوید: "ما می خواهیم بتوانیم خیلی سریع به زبان طبیعی دستور دهیم که چه کاری انجام دهیم.""به یک ربات خانگی فکر کنید که نمی داند چگونه املت بسازد. شما می خواهید به ربات آموزش دهید که چگونه می خواهید املت آماده شود اما نمی خواهید 50 بار آن را تکرار کنید. شما می خواهید بتوانید آن را بگویید و شاید آن را نشان دهید و می خواهید بدانید که چگونه این کار را انجام دهد. "

آزمایشگاه Tufts با شبکه سازی روبات ها ، آن را یک قدم جلوتر می برد. رباتهای NAO ‘یک مغز شبکه ای را به اشتراک می گذارند ، بنابراین آنچه یک ربات می آموزد ، همه آنها می دانند. در سناریوی ربات خانگی Scheutz ، ناگهان هر ربات در شبکه می داند که چگونه می تواند یک املت بسازد. این یک بانک اطلاعاتی مشترک ربات است. نوعی ویکی پدیا روبات.

البته ، چنین شبکه روباتیک گسترده ای که به طور گسترده ای متصل است ، یک بار دیگر سؤالات مربوط به اعتماد را مطرح می کند ، پس از گذشت چندین دهه از داستان های Robocalypse. دلایل بیشتر برای دستیابی به همه این مفاهیم اعتماد و اخلاق در این مرحله اولیه بازی.

اما پس از آن ، مثل این است که آنها می گویند - شما نمی توانید بدون شکستن چند تخم مرغ املت درست کنید.