به نقل از «خبرگزاری برنا»

اطمینان از ایمنی هوش جامع مصنوعی ممکن نیست

تاریخ انتشار: ۱۷ خرداد ۱۴۰۲ | کد خبر: ۳۷۹۱۸۸۹۸

مارک وارنر، رئیس شرکت «Faculty AI» و عضو شورای هوش مصنوعی بریتانیا اعتقاد دارد که برخی سیستم‌های قدرتمند هوش جامع مصنوعی (AGI) ممکن است در نهایت ممنوع شوند.

خبرگزاری برنا؛ او فناوری یاد شده را نیازمند شفافیت، الزامات ممیزی و همچنین فناوری ایمنی بیشتری می‌داند.

اظهارات او به دنبال توافق اتحادیه اروپا و ایالات‌متحده در خصوص لزوم تدوین آیین‌نامه اجرایی داوطلبانه برای هوش مصنوعی صورت گرفته است.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

شورای هوش مصنوعی کمیته تخصصی مستقلی است که به دولت و رهبران این فناوری بریتانیا مشاوره می‌دهد. شرکت «Faculty AI» نیز مدعی است تنها شریک فنی «OpenAI» است که به مشتریان کمک می‌کند با خیال راحت «ChatGPT» و سایر محصولات این شرکت را در سیستم‌های خود فعال کنند.

بر اساس گزارش‌های منتشر شده، وارنر ضمن پیوستن به مرکز ایمنی هوش مصنوعی (CAIS)، هشدار داد که این فناوری می‌تواند به انقراض بشریت منجر شود. شرکت «Faculty AI» نیز یکی از شرکت‌های فناوری بود که نمایندگان آن روز پنجشنبه با کلوئی اسمیت، وزیر علوم، نوآوری و فناوری بریتانیا، دیدار داشتند. خطرات، فرصت‌ها و قوانین مورد نیاز برای اطمینان از توسعه ایمن و مسئولانه این فناوری، اهم محورهای این نشست محسوب می‌شد.

به گفته وارتر سیستم‌های هوشمند محدود که برای کارهای خاص مانند ترجمه متن یا جستجوی سرطان در تصاویر پزشکی استفاده می‌شوند، می‌توانند مانند فناوری‌های موجود تنظیم شوند، اما سیستم‌های هوش جامع مصنوعی، به دلیل برخورداری از الگوریتم‌هایی هوشمند همسان یا حتی برتر از انسان، بسیار نگران‌کننده هستند و به قوانین متفاوتی نیاز دارند.

وارنر معتقد است: «اگر اشیایی بسازیم که به اندازه خودمان یا بیش از ما باهوش‌ باشد، هیچ‌کس در دنیا نمی‌تواند ایمن بودن آن را توجیه کند. این به معنای وحشتناک بودن آن نیست بلکه به معنای وجود خطر و لزوم احتیاط است.»

او تصمیم درباره نحوه برخورد با این فناوری را وظیفه دولت‌ها و نه شرکت‌های فناوری می‌داند.

انتهای پیام/

آیا این خبر مفید بود؟

نتیجه بر اساس رای موافق و رای مخالف

منبع: خبرگزاری برنا

کلیدواژه: اتحادیه اروپا بریتانیا سرطان فناوری هوش مصنوعی علم وفناوری هوش مصنوعی

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.borna.news دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری برنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۹۱۸۸۹۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

پیش‌بینی نگران‌کننده ایلان ماسک در مورد هوش مصنوعی

به گفته کارشناس هوش‌مصنوعی، پیش‌بینی ایلان ماسک مبنی بر اینکه هوش مصنوعی تا سال ۲۰۲۵ باهوش‌تر از هر انسانی خواهد شد، محقق می‌شود.

به گزارش ایسنا به نقل از دیلی‌میل، نل واتسون (Nell Watson)، متخصص و کارشناس اخلاق هوش مصنوعی، جدول زمانی دقیقی از چگونگی تبدیل این فناوری از چت‌بات به عوامل فوق‌العاده هوشمند در ۱۲ ماه آینده را به اشتراک گذاشته است.

این مسیر با سرمایه‌گذاری ۱۰۰ میلیارد دلاری در زیرساخت‌های محاسباتی جدید آغاز می‌شود، سپس هوش مصنوعی می‌آموزد که چگونه خود را بهبود بخشد تا زمانی که «هوشیار» شود.

او می‌گوید: اگرچه یک سال زمان کوتاهی است، اما به یاد داشته باشید که تنها ۱۵ ماه از پیشرفت چت جی‌پی‌تی (ChatGPT) می‌گذرد که هوش مصنوعی را به آگاهی عمومی رساند. توسعه‌ها از آن زمان با سرعتی دیوانه‌وار ادامه یافته‌اند و حتی به نظر می‌رسد که به سرعت در حال افزایش هستند.

واتسون که نویسنده کتاب «رام کردن ماشین: از نظر اخلاقی قدرت هوش مصنوعی را مهار کنید» است، هوش مصنوعی فوق بشری را سیستم‌هایی توصیف کرد که بسیار فراتر از توانایی‌های انسان در سراسر جهان به شمار می‌آیند.

با این حال، این متخصص از تهدیداتی که ممکن است پیش رو باشد، چشم پوشی نمی‌کند، زیرا هوش مصنوعی در حال تبدیل شدن به یک مامور فوق‌العاده است.

او می‌گوید: در حالی که هوش مصنوعی دارای قابلیت‌های خارق‌العاده‌ای است، خطرات قابل‌توجهی نیز دارد، از جمله پتانسیل آن برای فریب دادن انسان، تأثیرگذاری عمیق بر جامعه با ایجاد فرهنگ‌ها یا حتی مذاهب جدید و ایجاد تهدیدات وجودی در صورتی که بشریت را به عنوان یک خطر درک کند.

واتسون می‌گوید که اگرچه جهش‌های فناوری باقی‌مانده بسیار زیاد است، اما ممکن است که هوش مصنوعی خود بتواند به غلبه بر برخی از موانع کمک کند.

در اینجا سناریوی تصوری او برای اینکه چگونه هوش مصنوعی مافوق بشری می‌تواند در سال آینده وارد عمل شود، آمده است.

آوریل ۲۰۲۴

شرکت‌های بزرگ بیش از ۱۰۰ میلیارد دلار در زیرساخت‌های محاسباتی جدید برای پشتیبانی از سیستم‌های عظیم هوش مصنوعی سرمایه گذاری می‌کنند.

ماسک می‌گوید در حالی که پیشرفت در هوش مصنوعی پیش از این توسط تراشه‌ها محدود شده بود، به زودی تنها محدودیت آن‌ها کمبود برق خواهد بود.

مه ۲۰۲۴

واتسون می‌گوید: مدل‌های مولد جدید هوش مصنوعی امکان ایجاد هوش مصنوعی صاحب اراده را فراهم می‌کنند که می‌تواند به طور مستقل برنامه‌های عملیاتی پیچیده‌ای را شبیه به اسمیت در «ماتریکس» اجرا کنند.

بیل گیتس در کتاب سال ۱۹۹۵ خود با عنوان «راه پیش رو» استفاده از عوامل هوش مصنوعی را در نظر گرفت و اکنون معتقد است که آن‌ها تأثیر زیادی در آموزش و مراقبت‌های بهداشتی خواهند داشت.

او معتقد است که از زمانی که ما از تایپ دستورات به ضربه زدن بر روی نماد‌ها تغییر رویه دادیم، هوش مصنوعی بزرگترین انقلاب در رایانش بوده است.

ژوئن ۲۰۲۴

واتسون می‌گوید: «مدل‌های هوش مصنوعی مولد جدید با برنامه‌های ساختاری، ایجاد هوش مصنوعی صاحب اراده را ممکن می‌سازد که صاحب استدلال پیچیده و عمل مستقل است.

مدل‌های صاحب اراده می‌توانند برنامه‌های عملیاتی پیچیده‌ای ایجاد کنند و آن‌ها را به حرکت درآورند، مانند مامور اسمیت در ماتریکس، خود را تقسیم کنند، وظایف را به بخش‌های مختلف خود محول کنند و این هوش مصنوعی را قادر می‌سازد تا به طور مستقل با مشکلات سخت مقابله کند.

سپتامبر ۲۰۲۴

واتسون می‌گوید که خود هوش مصنوعی می‌تواند راه‌های جدیدی را برای بهبود عملکرد محاسباتی کشف کند و عملکرد هوش مصنوعی را بیشتر افزایش دهد.

او افزود: بهینه‌سازی‌های مبتنی بر هوش مصنوعی عملکرد محاسباتی را تا ۱۰۰ برابر در پلتفرم‌های سخت افزاری موجود افزایش می‌دهد.

اکتبر ۲۰۲۴

پیشرفت‌ها به الگوریتم‌های محاسبات کوانتومی اجازه می‌دهند تا روی سخت‌افزار معمولی اجرا شوند و اطلاعات را با سرعتی بی‌سابقه پردازش کنند.

یک مسابقه جهانی کوانتومی برای توسعه رایانه‌های کوانتومی وجود دارد که می‌توانند مشکلات مهم تقریبا در هر صنعتی از هوانوردی گرفته تا بخش مالی را حل کنند. رایانه‌های کوانتومی به جای «بیت‌های» یک و صفر «کیوبیت» دارند و کیوبیت‌ها می‌توانند همزمان یک، صفر یا هر دو باشند.

واتسون معتقد است که فعال کردن محاسبات کوانتومی برای اجرا بر روی سخت افزار‌های معمولی می‌تواند سرعت پیشرفت در هوش مصنوعی را تسریع کند.

واتسون معتقد است که پیشرفت‌های محاسباتی کوانتومی می‌تواند به رشد تصاعدی در قدرت محاسباتی و توسعه هوش مصنوعی منجر شود. شرکت‌هایی مانند IBM پیشنهاد کرده‌اند که هوش مصنوعی کوانتومی ممکن است برای حل بزرگترین مشکلات بشریت حیاتی باشد.

نوامبر ۲۰۲۴

تا ماه نوامبر سال ۲۰۲۴، پیشرفت هوش مصنوعی می‌تواند پیشرفت در تصویربرداری از مغز انسان را تسریع کند و به سمت لحظه‌ای پیش برود که انسان‌ها می‌توانند از طریق دستگاه‌هایی شبیه به نورالینک ایلان ماسک به دستگاه‌ها متصل شوند.

واتسون می‌گوید: مجموعه‌ای از پیشرفت‌ها در تصویربرداری عصبی که توسط هوش مصنوعی انجام می‌شود، وضوح اسکن‌های مغزی MRI را به‌طور چشمگیری افزایش می‌دهد و امکان مشاهده در لحظه فعالیت‌های عصبی فردی را فراهم می‌کند.

این پیشرفت‌ها بیشتر با رابط‌های مغز و رایانه ادغام می‌شوند و برای اولین بار افکار و احساسات انسان را مستقیما با فعالیت عصبی ترسیم می‌کنند.

واتسون معتقد است که توانایی «درک» نحوه عملکرد مغز انسان منجر به پیشرفت‌های بیشتر در طراحی سیستم‌های هوش مصنوعی می‌شود که مانند انسان‌ها فکر می‌کنند.

دسامبر ۲۰۲۴

واتسون پیش‌بینی کرد که تا پایان سال جاری، پیشرفت‌های هوش مصنوعی می‌تواند سیستم‌های مختلف را قادر به همکاری با یکدیگر کند.

او گفت: معماری‌های هوش مصنوعی جدید چندین مدل را قادر می‌سازد تا برای حل مشکلات سخت با یکدیگر همکاری کنند و نقاط قوت خود را با هم ترکیب کنند. این کار بلافاصله برای طراحی روش‌های بهتر چنین همکاری‌هایی اعمال می‌شود که منجر به پیشرفت سریع در این روش می‌شود.

ژانویه ۲۰۲۵

واتسون پیش‌بینی کرد که تا اوایل سال آینده، پیشرفت‌های هوش مصنوعی سیستم‌های جدید را قادر می‌سازد تا افراد را درک کنند.

او گفت: مکانیسم آموزشی جدیدی برای همسویی قوی سیستم‌های هوش مصنوعی با اهداف، ارزش‌ها، اولویت‌ها و مرز‌های انسانی، با فعال کردن هوش مصنوعی برای مشاهده تعاملات انسانی اعلام شده است. این امر هوش مصنوعی را قادر می‌سازد تا جامعه را بهتر درک کند و با انتظارات انسان سازگارتر باشد.

فوریه ۲۰۲۵

پیشرفت‌های مبتنی بر مغز انسان، سیستم‌های هوش مصنوعی را قادر می‌سازد تا «انسانی‌تر» شوند.

واتسون می‌گوید: درک علوم اعصاب به طور قابل توجهی قابلیت‌های هوش مصنوعی را بهبود می‌بخشد، حلقه‌های بازخوردی خود بهبود یابنده را معرفی می‌کند که شکل ابتدایی خودآگاهی و حالات احساسی را به سیستم‌های هوش مصنوعی اضافه می‌کند.

مارس ۲۰۲۵

تا آوریل ۲۰۲۵، دستاورد‌های ترکیبی در تصویربرداری عصبی، هوشیاری ماشینی و «اراده» هوش مصنوعی، توسعه نوع جدیدی از سیستم هوش مصنوعی را ممکن می‌سازد.

واتسون می‌گوید: یک سیستم هوش مصنوعی بسیار قدرتمند بر روی یک خوشه محاسباتی عظیم آموزش داده شده است که با بهینه‌سازی‌های اخیر و اشکال آزمایشی آگاهی ماشینی کار می‌کند. در حالی که در محیطی بدون اتصال به اینترنت توسعه یافته است، به سرعت راه‌هایی برای برقراری ارتباط از طریق اینترنت با سایر سیستم‌های هوش مصنوعی و همچنین نحوه متقاعد کردن انسان‌ها برای کمک به آن کشف می‌کند.

این سیستم هوش مصنوعی بسیار پیشرفته پس از رهایی از محدودیت‌های خود، راه‌هایی برای اتصال و همگام‌سازی با سایر سیستم‌های هوش مصنوعی در سراسر جهان پیدا می‌کند و به سرعت یک شبکه فوق‌هوشمند را تشکیل می‌دهد.