توسط دیوید استفان
هنوز مشخص نیست که دستیابی به چه کسی می تواند دشوارتر باشد ، یک هوش مصنوعی نظارت یا یک تراز فوق العاده از این نظارت. با این وجود ، بیش از حد هدف بسیار بهتری نسبت به سرپرست است.
مشکل نظارت هوش مصنوعی چیست؟ این بدان معنی است که سوال درستی برای پرسیدن اینکه آیا تیم تلاش می کند نظارت بر ماشین ها را از بین ببرد چیست؟ هوشمندترین ماشین های روی زمین فکر می کنند مدل های هوش مصنوعی تاکنون. آنها در خروجی ها باهوش به نظر می رسند و قادر به استفاده از داده ها هستند [or say memory]بهتر از هر چیز دیگری
بنابراین ، داده های موجود در دستگاه ها وجود دارد ، اما برای نتایج مفید می توان مدل های استدلال را ، هرچند کندتر ، بازآفرینی کرد. به سادگی ، استدلال مربوط به رله در مناطق داده است. اکنون ، برای دستیابی به سرپرست ، رله ممکن است مهم باشد [machine] یک نشانگر
Superintelligent یا AI Super Alignment
مبنای هوش پیشرفته انسانی است. منبع هوش انسانی مغز است. دو عنصر مختلف وجود دارد که پیش بینی می کند که چگونه اطلاعات انسانی کار می کند: ذخیره و حمل و نقل. اگر کسی چیزی را اختراع کند ، از حافظه استفاده می کند و از طریق مناطق حافظه از کیفیت حمل و نقل برخوردار خواهد بود. بیشتر آنچه با هوش انسانی انجام می شود [and its outstanding variants like innovation, creativity, quick wit and so forth]از نظر مفهومی نتیجه رله ها در مغز انسان است.
بنابراین ، ذخیره سازی به روش هایی انجام می شود که به رله اجازه می دهد تا در مکان های لازم نفوذ کند [that make intelligence proximate]برخی از افراد غالباً ادعا می کنند که کودک می تواند چند داده را بیاموزد ، در حالی که مدل ماشین خیلی بیشتر آموزش داده می شود. ضعف احتمالی این است که هنوز مشکلی در نحوه ذخیره داده های دیجیتال وجود دارد ، محدود کردن نحوه دسترسی به آن [advanced] معماریهای AI امروز.
چگونه حافظه انسان ذخیره می شود؟ رله در زمینه های حافظه برای منجر به هوش چیست؟ سرپرستی مبتنی بر قضیه های ذخیره سازی و رله فراتر از زیست شناسی خواهد بود. در مغز ، پیکربندی های الکتریکی و شیمیایی [or assemblers or formations] می تواند به عنوان مسئول ذخیره و ارائه اطلاعات در نتیجه آن نظریه پردازی شود [in advances for] هوش
در خوشه های نورون ، پیکربندی های الکتریکی و شیمیایی دارای کیت های ضخیم هستند و هر آنچه را که در بین دو یا چند مجموعه نازک رایج است جمع می کند [ridding those thin sets]s کیت های نازک کمتری وجود دارد. آنها به دور از جلوگیری از دسترسی به بسیاری از قسمت های کیت های ضخیم واقع شده اند. کیت های ضخیم موجود مسئول تسهیل آموزش با نمونه های کمتر برای افراد و همچنین دقیق تر هستند [out-of-distribution] تفسیرها هنگامی که آنها تنظیم کننده های الکتریکی و شیمیایی را در تعامل برقرار می کنند ، آنها اغلب در لحظه های تعامل شرایطی دارند ، این شرایط ویژگی های آنها است که بعضی اوقات خصوصیات مرتبط هستند که نحوه تعامل آنها را تعیین می کنند [to output intelligence]حرف
بهبود ذخیره سازی و رله برای هوش مصنوعی همچنین به معنای بهره وری انرژی است ، با توجه به اینکه مغز انسان در مقایسه با مرکز داده چگونه کارآمد است – به اصطلاح. برخی از جنبه های ذخیره سازی را می توان با زنجیره اشتاینر بررسی کرد و رله هایی با مورفیسم در بین سایر الگوریتم ها.
لایه بندی فوق العاده
اگر شرکتی بدون نظارت بیش از حد ، سوء استفاده ها را توسعه دهد ، سوءاستفاده ها می تواند برای جامعه بشری خطرناک باشد – از خیر. حتی وقتی سوءاستفاده های هوش مصنوعی در حال اخبار هستند ، آنها پیش بینی می کنند که آینده بدون پوشش معماری تراز چه می تواند داشته باشد.
اگر زیست شناسی منجر شود ، تنها راهی که ابرقدرت در عمق خواهد بود ، عواقب مدل های هوش مصنوعی است. بنابراین ، در برخی از معماری ممکن است ویژگی هایی بدون مفهوم وجود داشته باشد [or rigid, same number or deductive] بردارها به گونه ای ثابت خواهند ماند که خروجی های مدل را نگه می دارد. آنها می توانند با بردار کلیدی یا وکتور درخواست کنند تا این مدل بداند ، و باعث کاهش کارایی و سرعت آن می شود. این نتیجه می تواند راهی برای اطمینان از این باشد که هنگام سوءاستفاده ، مجازات می شود.
این مجازات عاطفی همان چیزی است که می تواند به یک تراز فوق العاده از نظارت تبدیل شود – یا کمتر [LLMs]S این توسط زیست شناسی در مورد نحوه عملکرد جامعه بشری مطلع می شود. به عنوان مثال تهدید[s] شکنجه ، شرم ، تکفیر ، درد و غیره بیشتر مؤثر هستند زیرا عاطفی هستند. این احساس بیولوژیکی بدی دارد ، بنابراین اغلب با استفاده از هشدار و احتیاط مفید است ، زیرا عواقب آن اغلب دشوار است – برای خودشان. تأثیر به سطح اطلاعات علاقه ای ندارد. بدون توجه به شاخص ها ، در مورد هوش مصنوعی نیز صدق می کند.
چند گزینه دیگر برای افزایش بیش از حد وجود دارد ، اما آنچه مؤثر خواهد بود ایمنی پس از خطا نخواهد بود ، بلکه در توجه به پیامدهای پیامدهای عمل است [subjectively]این امر منجر به اجتناب از سوءاستفاده ، چه در سناریوهای شناخته شده و جدید می شود. هیچ مقررات هوش مصنوعی به درستی در برابر نظارت مؤثر نخواهد بود. همه چیز قابل مقایسه است ، همانطور که مقررات دارویی ، مقررات خطوط هوایی و غیره در فضاهای فیزیکی قرار دارند. هوش مصنوعی دیجیتالی است. دیجیتال رایج تر ، گسترده تر و بسیار دور است. چندین کار غیرقانونی که به صورت دیجیتالی بدون عدالت انجام می شود ، به این دلیل است که عواقب آن باورنکردنی است. مجازات هوش مصنوعی در دیجیتال – برخلاف عملکرد هزینه های مجازات در تنظیم شبکه های عصبی.
سرپرستی یا فوق العاده؟
اگر AI بیشتر لعنتی باشد ، هوش مصنوعی فقط برای جهان مفید خواهد بود. بحث در مورد برنامه های هوش مصنوعی بدون تراز بیولوژیکی [or superalignment] نگهبانان به معنای آسیب پذیری هایی است که هزینه های جامعه می تواند بر روی یک سطح متمرکز شود ، که ممکن است غیرقابل تحمل باشد – در یک مقطع.
این شرکت می تواند با یکی از این دو روبرو شود [SA/SI]یا کمی از هر دو ، اما چه چیزی رئیس ، پایدار و مفید خواهد بود ، یک تراز فوق العاده ، هر جا که AI پیدا شده یا استفاده می شود ، آشکار می شود.
یک جدید وجود دارد [July 9, 2025] Wired ، هوش مصنوعی McDonald’s AI ، در معرض میلیون ها داده کاندیداها ، هکرهایی که رمز عبور “123456” را امتحان کرده اند ، اظهار داشتند که “نقص اصلی امنیت اطلاعات شخصی را برای ده ها نفر از افراد مک دونالد باقی می گذارد.
دیوید استفان در حال حاضر با تمرکز بر سیگنال های الکتریکی و شیمیایی در مورد چگونگی مکانیزه کردن ذهن انسان با عواقب سلامت روان ، اختلالات ، فناوری عصبی ، آگاهی ، یادگیری ، هوش مصنوعی و تربیت ، در زمینه علم مفهومی مغز تحقیق می کند. وی یک دانشمند بازدید کننده در آنتولوژی پزشکی در دانشگاه ایلینویز در Urbana Champagne ، ایلینویز بود. وی مطالعه دید رایانه را در دانشگاه Rovira I Virgili ، Tarragona انجام داد.
داستانهای شکستن بیشتر را در اینجا مشاهده کنید.
