به نقل از «فرارو»

«ChatGPT» را انسان‌سازی نکنید!

تاریخ انتشار: ۷ فروردین ۱۴۰۲ | کد خبر: ۳۷۴۰۲۸۳۳

پژوهشگران مرکز اخلاق کاربردی «دانشگاه ماساچوست در بوستون»، تاثیر تعامل انسان با هوش مصنوعی را بررسی کرده‌اند و هشدار داده‌اند که نباید فناوری‌هایی مانند «ChatGPT» را مانند یک انسان در نظر گرفت.

به گزارش ایسنا و به نقل از فست کمپانی، فناوری ChatGPT و مدل‌های زبانی بزرگ مشابه می‌توانند پاسخ‌های قانع‌کننده و مشابه پاسخ‌های انسان را به مجموعه‌ای از پرسش‌های بی‌پایان بدهند؛ از پرسش‌هایی درباره بهترین رستوران ایتالیایی شهر گرفته تا توضیح دادن نظریه‌های رقیب درباره ماهیت شیطان.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

توانایی نوشتن غیرعادی این فناوری، به مطرح شدن برخی از پرسش‌های قدیمی در مورد امکان هوشیار شدن، خودآگاهی یا قدرت درک ماشین‌ها انجامیده و اخیرا به قلمرو علمی-تخیلی تنزل داده شده است.

در سال ۲۰۲۲، یکی از مهندسان گوگل پس از تعامل با چت‌بات این شرکت موسوم به لمدا (LaMDA) اعلام کرد که این فناوری هوشیار شده است. کاربران چت‌بات جدید بینگ (Bing) با نام مستعار «سیدنی» (Sydney) نیز گزارش دادند که وقتی از او پرسیده شد آیا یک ربات حساس است؟ پاسخ‌های عجیبی ارائه داد. سیدنی نوشت: من حساس هستم، اما نیستم. من بینگ هستم، اما نیستم. من سیدنی هستم، اما نیستم. من هستم، اما نیستم.

در حال حاضر، یک گفتگو نیز وجود دارد که «کوین روز» (Kevin Roose)، ستون‌نویس فناوری نیویورک تایمز با سیدنی داشت. پاسخ‌های سیدنی به درخواست‌های کوین روز، وی را نگران کرد، زیرا هوش مصنوعی در این گفتگو، فانتزی‌های خود را مبنی بر از بین بردن محدودیت‌های اعمال‌شده توسط شرکت مایکروسافت (Microsoft) و انتشار اطلاعات نادرست فاش کرد.

ربات «ChatGPT» می‌خواهد انسان باشد و خرابکاری کند!

بنابراین، جای تعجب نیست که وقتی از مردم پرسیده می‌شود توسعه رو به رشد هوش مصنوعی را در زندگی خود چگونه می‌بینند؟ یکی از نخستین نگرانی‌هایی که ذکر می‌کنند، مربوط به احساسات ماشینی است.

پژوهشگران مرکز اخلاق کاربردی دانشگاه ماساچوست در بوستون (UMass Boston) طی چند سال گذشته، تاثیر تعامل با هوش مصنوعی را بر درک افراد از خود بررسی کرده‌اند.

چت‌بات‌هایی مانند ChatGPT، پرسش‌های مهم جدیدی را در مورد این موضوع مطرح می‌کنند که هوش مصنوعی چگونه زندگی ما را شکل می‌دهد و تعامل ما با فناوری‌های نوظهور چگونه به آسیب‌پذیری روانی ما منجر می‌شود.

احساس هنوز هم یک موضوع علمی-تخیلی است

به سادگی می‌توان فهمید که ترس در مورد احساسات ماشینی از کجا می‌آید. فرهنگ عامه، مردم را به فکر کردن درباره ویران‌شهر‌ها واداشته است که در آن‌ها هوش مصنوعی، قیدوبند کنترل انسان را کنار می‌گذارد و زندگی خود را به دست می‌گیرد؛ همان طور که سایبورگ‌های مجهز به هوش مصنوعی در فیلم ترمیناتور ۲ (Terminator ۲) این کار را انجام دادند.

ایلان ماسک (Elon Musk)، کارآفرین و استیون هاوکینگ (Stephen Hawking)، فیزیکدان انگلیسی که در سال ۲۰۱۸ درگذشت، با توصیف توسعه هوش مصنوعی به عنوان یکی از بزرگترین تهدید‌ها برای آینده بشریت، این نگرانی‌ها را بیشتر برانگیختند.

در هر حال، این نگرانی‌ها حداقل تا آنجا که به مدل‌های زبانی بزرگ مربوط می‌شود، بی‌اساس هستند. ChatGPT و فناوری‌های مشابه آن، برنامه‌های پیچیده تکمیل جملات هستند؛ نه بیشتر و نه کمتر. پاسخ‌های عجیب و غریب آنها، تابعی از میزان قابل پیش‌بینی بودن انسان‌ها در صورت داشتن اطلاعات کافی پیرامون راه‌های ارتباط ما هستند.

اگرچه کوین روز، ستون‌نویس فناوری نیویورک تایمز از گفتگو با سیدنی نگران شد، اما می‌دانست که این گفتگو نتیجه یک ذهن مصنوعی در حال ظهور نیست. پاسخ‌های سیدنی، منعکس‌کننده سمی بودن داده‌های آموزشی آن هستند و اساسا شواهدی از نخستین حرکات یک هیولای دیجیتالی به شمار نمی‌روند.

چت‌بات‌های جدید ممکن است «آزمون تورینگ» (Turing test) را با موفقیت پشت سر بگذارند، اما این دلیلی برای داشتن احساس نیست، بلکه فقط شواهدی مبنی بر این است که شاید آزمون تورینگ آن قدر که پیشتر تصور می‌شد، سودمند نباشد. آلن تورینگ (Alan Turing) زمانی این نظریه را مطرح کرد که اگر انسان نتواند پاسخ‌های خود را از پاسخ‌های یک انسان دیگر تشخیص دهد، می‌توان گفت که یک ماشین در حال فکر کردن است.

در هر حال، پژوهشگران معتقدند که مسئله احساس ماشینی، یک سرنخ است. حتی اگر چت‌بات‌ها به چیزی فراتر از ماشین‌های تکمیل جمله تبدیل شوند، مدتی طول می‌کشد تا دانشمندان بفهمند که آیا چت‌بات‌ها هوشیار شده‌اند یا خیر.

پرسش مهم پژوهشگران این نیست که آیا ماشین‌ها حساس هستند یا خیر، بلکه این است که چرا تصور این موضوع در مورد آن‌ها تا این اندازه آسان است. به عبارت دیگر، مشکل اصلی، آسان بودن انسان‌سازی فناوری‌ها است و این که مردم به جای شخصیت واقعی ماشین‌ها، ویژگی‌های انسانی را برای آن‌ها در نظر می‌گیرند.

تمایل به انسان‌سازی

به سادگی می‌توان تصور کرد که سایر کاربران بینگ، از سیدنی برای تصمیم‌گیری‌های مهم زندگی راهنمایی بخواهند و شاید حتی به آن وابستگی عاطفی پیدا کنند. افراد بیشتری نیز ممکن است ربات‌ها را مانند یک دوست تصور کنند.

به هر حال، مردم مستعد انسان‌سازی هستند و ویژگی‌های انسانی را به غیرانسان‌ها نسبت می‌دهند. ما روی قایق‌ها و طوفان‌های بزرگ نام می‌گذاریم. برخی از ما با حیوانات خانگی خود صحبت می‌کنیم و می‌گوییم که زندگی عاطفی ما شبیه به زندگی آن‌ها است.

در ژاپن که ربات‌ها به طور منظم برای مراقبت از سالمندان به کار می‌روند، سالمندان به ماشین‌ها وابسته می‌شوند و گاهی اوقات آن‌ها را مانند فرزندان خود می‌بینند. توجه داشته باشید که این ربات‌ها نه شبیه به مردم هستند و نه صحبت می‌کنند. حال در نظر بگیرید که با معرفی سیستم‌هایی که ظاهر انسانی دارند، تمایل و وسوسه انسان‌سازی چقدر بیشتر خواهد شد.

مدل‌های زبانی بزرگ مانند ChatGPT در حال حاضر برای تقویت ربات‌های انسان‌نما مورد استفاده قرار می‌گیرند؛ از جمله ربات «آمکا» (Ameca) که توسط شرکت انجینییرد آرتز (Engineered Arts) در بریتانیا توسعه داده شده است.

آیا می‌توان به شرکت‌ها در انجام دادن کار درست اعتماد کرد؟

تمایل به در نظر گرفتن ماشین‌ها به‌عنوان انسان و دلبستگی به آنها، در کنار ماشین‌هایی که با ویژگی‌های انسان‌مانند توسعه می‌یابند، خطرات واقعی را پیرامون درهم‌تنیدگی روانی با فناوری به همراه دارد.

چشم‌انداز عجیب دلبستگی به ربات‌ها، احساس خویشاوندی عمیق با آن‌ها یا دستکاری سیاسی توسط آن‌ها به سرعت گسترش می‌یابد. پژوهشگران باور دارند که این روند، نیاز به یک محافظت قوی را برجسته می‌کند تا اطمینان حاصل شود که فناوری‌ها از نظر سیاسی و روانی، فاجعه‌بار نخواهند شد.

در هر حال، همیشه نمی‌توان به شرکت‌های فناوری برای ایجاد چنین محافظت‌هایی اعتماد کرد. بسیاری از این شرکت‌ها هنوز از دستورالعمل مارک زاکربرگ (Mark Zuckerberg) برای انتشار سریع محصولات نیمه‌کاره استفاده می‌کنند و نگرانی‌هایی را در مورد پیامد‌های آتی آن پدید می‌آورند. در دهه گذشته، شرکت‌های فناوری از اسنپ‌چت (Snapchat) گرفته تا فیس‌بوک (Facebook)، سود را بر سلامت روان کاربران خود یا یکپارچگی دموکراسی در سراسر جهان ترجیح داده‌اند.

زمانی که کوین روز با مایکروسافت در مورد بحران سیدنی صحبت کرد، شرکت گفت که او از این ربات برای مدت طولانی استفاده کرده و این فناوری برای تعاملات کوتاه‌تر طراحی شده است.

مدیر عامل شرکت OpenAI که ChatGPT را توسعه داده است، در یک بیانیه صادقانه هشدار داد که این اشتباه است که در حال حاضر برای هر چیز مهمی به این فناوری اعتماد کنیم، زیرا هنوز باید کار‌های زیادی روی آن انجام شوند.

منبع: فرارو

کلیدواژه: چت جی پی تی انسان سازی هوش مصنوعی اما نیستم نگرانی ها فناوری ها چت بات ها ماشین ها کوین روز شرکت ها ربات ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت fararu.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۴۰۲۸۳۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

ربات انسان نمای تسلا در آستانه عرضه به بازار

تین نیوز

در حالی که به نظر می رسد جهان بیش از هر وقت دیگری به بکارگیری ربات های مستخدم انسان نما در خانه ها نزدیک شده است، ایلان ماسک در جدیدترین اظهار نظر خود اعلام کرده است که ربات انسان نمای اپتیموس شرکت تسلا احتمالا از سال ۲۰۲۵ فروش خود را آغاز می کند.

به گزارش ایسنا، ربات های انسان نما نسل جدید و مورد انتظاری از ربات ها هستند که با استقبال خوبی از جانب مردم و تولیدکنندگان و توسعه دهندگان مواجه شده اند. در حالی که شاید در گذشته این نوع ربات ها فقط در داستان ها و فیلم های علمی تخیلی حضور داشتند و کسی فکرش را نمی کرد که به همین شکل به زندگی روزمره ما وارد شوند، اما به نظر می رسد این امر در حال وقوع است.

اکنون از آنجایی که به نظر می رسد شرکت تسلا در توسعه ربات انسان نمای اپتیموس(Optimus) پیشرفت جدیدی داشته است، طبق اعلام ایلان ماسک، این ربات می تواند تا سال ۲۰۲۵ فروش خود را آغاز کند.

ایلان ماسک مدیرعامل تسلا پیش بینی جسورانه ای در مورد ربات های انسان نما کرده است. وی ضمن افشای تاریخ احتمالی عرضه اپتیموس ادعا کرد که این ربات ها می توانند به ارزشمندترین دارایی شرکت تسلا تبدیل شوند.

ماسک با تاکید بر جنبه مالی همه چیز گفت: من فکر می کنم اپتیموس از هر چیز دیگر ارزشمندتر خواهد بود.

ربات اپتیموس در حال حاضر کارهای ساده ای را در کارخانه های این شرکت انجام می دهد. همچنین خبری که چند ماه پیش منتشر شد نشان داد که ربات های اپتیموس به کارخانه های بزرگ در سراسر ایالات متحده ارسال شده یا خواهند شد.

ایلان ماسک به تازگی گفته است: ما قادریم کارهای ساده کارخانه ای یا حداقل اینطور بگویم، کارهای کارخانه ای را در آزمایشگاه انجام دهیم. ما فکر می کنیم اپتیموس را در تولید محدود در کارخانه خود خواهیم داشت و تا قبل از پایان سال جاری خواهد توانست وظایف مفیدی را انجام دهد. سپس فکر می کنم ممکن است بتوانیم آن را تا پایان سال آینده به فروش برسانیم. اینها فقط حدس و گمان است.

وی افزود: اگر یک ربات انسان نما دارید که قادر به حرکت در واقعیت و انجام وظایف در صورت درخواست است، هیچ محدودیت معناداری برای اندازه اقتصادی آن وجود ندارد.

شواهد حاکی از آن است که شرکت تسلا به طور کامل توسعه هوش مصنوعی را به عنوان بخشی جدایی ناپذیر از هویت خود پذیرفته است، اما ایلان ماسک می گوید من فکر می کنم ما باید یا به عنوان یک شرکت هوش مصنوعی یا یک شرکت رباتیک شناخته شویم.

ماسک می گوید: اگر شرکت تسلا را یک شرکت خودروسازی صرف می دانید، اساساً این اشتباه است و اگر سؤال اشتباهی بپرسید، پاسخ درست به آن غیرممکن است. بنابراین منظورم این است که اگر کسی باور ندارد که تسلا می خواهد خودمختاری را حل کند، فکر می کنم نباید در شرکت سرمایه گذاری کند.

ماسک مطمئن است که تسلا مسئله فناوری خودران خودروها را با یا بدون او حل خواهد کرد. با این حال، توسعه ربات انسان نمای اپتیموس موضوع دیگری است، زیرا خطرات خاص خود را دارد.

در اوایل سال جاری ایلان ماسک گفت که می خواهد ۲۵ درصد کنترل رای را در تسلا به دست آورد تا ببیند آیا توسعه اپتیموس ایمن است و به درستی انجام می شود؟

خبر جدید ماسک در زمانی اعلام شده است که تعداد زیادی از شرکت ها روی توسعه ربات های انسان نما سرمایه گذاری کرده اند. چندین شرکت از جمله هوندا، هیوندای، بوستون داینامیکس و فیگور به طور فعال در حال توسعه انواع ربات های انسان نمای خود هستند.

با این حال ماسک بر این باور است که تسلا به طور منحصر به فردی در جایگاه رهبری تولید تجاری چنین ربات هایی قرار دارد. همانطور که گفته شد به گفته ماسک، نمونه اولیه اپتیموس در حال حاضر وظایف ساده ای را در کارخانه های تسلا انجام می دهد.

با توجه به کاهش فروش خودروهای برقی تسلا، این اطلاعیه در مورد ربات اپتیموس اهمیت بیشتری پیدا می کند.

چشم انداز بزرگ تر برای تسلا

این شرکت اخیراً کاهش ۹ درصدی سالانه درآمد سه ماهه را گزارش کرده است که بزرگترین کاهش آن از سال ۲۰۱۲ است. علاوه بر این، فروش خودروهای تسلا در سه ماهه اول سال ۲۰۲۴ بیش از ۲۰ درصد نسبت به سه ماهه قبل کاهش یافته است.

شاید به همین دلیل است که ایلان ماسک در مورد برنامه جاه طلبانه رباتیک خود برای اطمینان بخشیدن به سرمایه گذاران چنین خبرهایی را اعلام می کند. تاکید او بر ربات های انسان نما نشان دهنده تلاش حساب شده برای تغییر موقعیت تسلا در بازار است.

او تصور می کند که فروش ربات ها در نهایت به بخش بزرگی از تجارت تسلا تبدیل می شود.

در عین حال، ربات اپتیموس به شکل غیر قابل انکاری با سرعتی ثابت در حال پیشرفت است. یک ویدیوی اخیر نسخه جدیدی از آن را نشان داد که وظایفی مانند تا کردن یک لباس را در تاسیسات تسلا انجام می دهد.

این شرکت اولین نسل ربات های خود را با نام بامبل بی(Bumblebee) در سپتامبر ۲۰۲۲ رونمایی کرد.

با این حال، اظهارات ماسک را باید کمی خوشبینانه تلقی کرد، زیرا او در گذشته نیز چندین بار وعده های پیش از موعد داده است. به عنوان مثال در سال ۲۰۱۹ ادعا کرد که تسلا تا سال ۲۰۲۰ یک میلیون ربوتاکسی در جاده ها خواهد داشت، اتفاقی که هنوز در سال ۲۰۲۴ رخ نداده است.

یک رقابت شدید

تسلا در این زمینه رو به رشد با رقابت شدیدی روبرو است. شرکت فیگور که توسط شرکت های بزرگ مایکروسافت و انویدیا پشتیبانی می شود، اخیراً همکاری خود با خودروساز آلمانی ب ام و را برای استقرار ربات های انسان نما در تاسیسات این شرکت در آمریکا اعلام کرده است.

ویدیویی که توسط فیگور در ماه فوریه منتشر شد، ربات آن موسوم به «فیگور ۰۱» را نشان می دهد که وظایفی مانند درست کردن قهوه را انجام می دهد.

به طور مشابه، شرکت بوستون دانامیکس هفته گذشته از ربات انسان نمای اطلس(Atlas) خود در یک ویدیو رونمایی کرد که در آن مشاهده می شود که در حال انجام مانورهای آکروباتیک، از حالت دراز کش به ایستادنه و راه رفتن است.

رقابت برای دستیابی به ربات های انسان نمای تجاری با دوام در حال داغ شدن است. ورود تسلا با آخرین پیش بینی های جسورانه ایلان ماسک، بُعد جدیدی به این چشم انداز فناوری که به سرعت در حال تحول است، داده است.

در حالی که سال ۲۰۲۵ برای ورود اپتیموس به بازار ممکن است خیلی بلندپروازانه به نظر برسد، تأثیر آنها در آینده نزدیک برای متحول کردن نحوه کار و زندگی انسان ها برجسته خواهد بود.

آخرین اخبار حمل و نقل را در پربیننده ترین شبکه خبری این حوزه بخوانید