به گزارش رکنا، داریو آمودی، مدیرعامل انتروپیک، از طرح‌های بلندپروازانه‌ای برای توسعه درک‌پذیری فناوری‌های هوش مصنوعی تا سال ۲۰۲۷ پرده برداشت. او در مقاله‌ای تحت عنوان «فوریت درک‌پذیری»، به اهمیت فهم مدل‌های پیشرفته پیش از دستیابی به هوش عمومی مصنوعی (AGI) اشاره کرده و خطرات تصمیم‌گیری‌های غیرشفاف این فناوری در زمینه‌هایی مثل امنیت ملی و اقتصاد را برجسته ساخت.
تمرکز بر روش درک‌پذیری مکانیکی
در قلب طرح‌های آماده‌شده توسط انتروپیک، مفهوم «درک‌پذیری مکانیکی» قرار دارد. این روش با مهندسی معکوس سازوکارهای فکری مدل‌های زبانی بزرگ، به دنبال شناسایی رفتارها و سوگیری‌های آن‌هاست. آمودی این فرآیند را با انجام اسکن مغزی روی هوش مصنوعی مقایسه کرده و بر ضرورت شناخت ساختارهای درونی این مدل‌ها پیش از استفاده گسترده تأکید کرده است.
موفقیت‌های ابتدایی در شناسایی مدارات هوش مصنوعی
انتروپیک موفق شده در مدل Claude، برخی مدارات خاص از جمله مداری جهت تطبیق شهرها و ایالت‌های آمریکا را شناسایی کند. با این‌که این یافته‌ها هنوز در مراحل ابتدایی هستند، از مسیر طولانی و پیچیده در رمزگشایی مدارات ناشناخته مدل‌های هوش مصنوعی، که شامل میلیون‌ها مدار مختلف می‌شوند، خبر می‌دهند.
چالش‌های جهانی در حوزه درک‌پذیری
چالش‌هایی که در زمینه درک‌پذیری وجود دارد، تنها مختص انتروپیک نیست. شرکت‌های بزرگی مانند OpenAI و گوگل دیپ‌مایند نیز با مشکلاتی مانند افزایش توهم مدل‌ها همراه با افزایش قابلیت‌هایشان مواجه هستند. این مسئله نشان می‌دهد تلاش‌های هم‌زمان برای ایمنی و شفافیت، اهمیتی دوچندان پیدا کرده است.
شناسایی ویژگی‌های مفهومی و بهبود ایمنی
آمودی با خوش‌بینی محتاطانه اعلام کرد که در بازه زمانی ۵ تا ۱۰ سال آینده، پیشرفت‌های قابل‌توجهی در زمینه درک‌پذیری هوش مصنوعی رخ خواهد داد. شناسایی قابلیت‌هایی همچون طعنه یا همدلی، حتی با ابزارهای موجود، نشان داده که می‌توان به بینش‌های ارزشمند دست یافت. آمودی تأکید می‌کند که بهبود درک‌پذیری نه تنها موجب افزایش ایمنی می‌شود، بلکه می‌تواند به‌عنوان یک مزیت رقابتی مهم برای کسب‌وکارها مطرح گردد.
اقدامات انتروپیک برای توسعه مسئولانه هوش مصنوعی
انتروپیک برای دستیابی به اهداف خود، زیرساخت‌های فنی گسترده‌ای برای مدیریت داده‌ها ایجاد کرده و همچنین بر اتخاذ رویکردهای مسئولانه در راستای مقررات و همکاری‌های بین‌المللی تاکید کرده است. این شرکت با چنین رویکردی، خود را به‌عنوان پیشگامی در حوزه شفافیت و ایمنی در توسعه هوش مصنوعی معرفی نموده است.
- فیلم / مار در حال ورود به خانه
- مشاهده خبر
