آنتروپیک ابزاری برای اثبات هویت واقعی مدل‌های هوش مصنوعی توسعه می‌دهد

آنتروپیک ابزاری برای اثبات هویت واقعی مدلهای هوش مصنوعی توسعه میدهد

ابزار متنباز FlashProve با ایجاد اثر انگشت رمزنگاریشده، مدل واقعی تولیدکننده هر پاسخ را بدون افشای اطلاعات محرمانه مشخص میکند.

آنتروپیک درحال توسعه FlashProve، ابزاری متنباز برای تأیید هویت مدلهای هوش مصنوعی است. این سیستم با استفاده از رمزنگاری، مدرکی ارائه میدهد که نشان میدهد پاسخ دریافتی واقعاً توسط همان مدلی تولید شده که شرکت ارائهدهنده ادعا میکند.

یکی از مشکلات سرویسهای هوش مصنوعی این است که کاربران نمیتوانند مطمئن شوند پاسخهای دریافتی واقعاً توسط همان مدلی تولید شدهاند که شرکت ارائهدهنده معرفی میکند. برای مثال، ممکن است یک شرکت برای کاهش هزینهها، مدل ارزانتری را جایگزین مدل پیشرفته خود کند؛ بدون اینکه کاربران متوجه این تغییر شوند. حتی ممکن است یک شرکت برای بهتر نشاندادن نتایج عملکردی خود، از مدلی گرانتر استفاده کند.

آنتروپیک برای حل این مشکل، سیستم FlashProve را توسعه میدهد. این سیستم با استفاده از روشهای رمزنگاری، مدرکی ریاضی برای اثبات منشأ هر خروجی فراهم میکند. این مدرک نشان میدهد پاسخ موردنظر توسط کدام مدل تولید شده است. به این ترتیب، کاربران میتوانند بهجای اعتماد صرف به ادعای شرکتها، صحت هویت مدل را بررسی کنند.

FlashProve چگونه هویت مدلهای هوش مصنوعی را تأیید میکند؟

عملکرد FlashProve را میتوان به امضای دیجیتال ایمیل تشبیه کرد. همانطور که امضای دیجیتال به دریافتکننده اجازه میدهد فرستنده واقعی یک ایمیل را تأیید کند، این سیستم نیز مشخص میکند پاسخ هوش مصنوعی واقعاً از مدل اعلامشده شرکت آمده است یا خیر. نکته مهم اینکه این سازوکار حتی در برابر جعل هویت از سوی خود شرکت سازنده مدل نیز طراحی شده است.

FlashProve علاوه بر جلوگیری از جایگزینی مخفیانه مدلها، کاربرد دیگری هم دارد: بررسی صحت ادعای شرکتها درباره استفاده از هوش مصنوعی. برای مثال، یک توسعهدهنده ممکن است بگوید نرمافزارش را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیبپذیری بررسی کرده است. یا شرکتی ادعا کند که طرح کسبوکارش را یک مدل هوش مصنوعی پیشرفته ارزیابی و تأیید کرده است. FlashProve به دیگران اجازه میدهد بررسی کنند که آیا واقعاً همان مدل ادعاشده این وظایف را انجام داده است یا خیر.

برای اینکه FlashProve بتواند مدلهای مختلف را شناسایی کند، شرکتهای هوش مصنوعی باید برای هر مدل یک شناسه اختصاصی منتشر کنند. آنتروپیک این شناسه را «اثر انگشت مدل» مینامد. این شناسه مانند یک مشخصه منحصربهفرد عمل میکند و به سیستم اجازه میدهد خروجیها را با مدل تولیدکننده آنها تطبیق دهد.

انتشار این شناسه به معنای افشای اطلاعات محرمانه مدل نیست. برای مثال، وزنهای مدل که مجموعهای از اعداد داخلی هستند و رفتار و نحوه پاسخگویی آن را تعیین میکنند، همچنان مخفی باقی میمانند. بنابراین، شرکتهایی مانند آنتروپیک و OpenAI میتوانند از این فناوری استفاده کنند، بدون اینکه مجبور شوند اطلاعات اصلی و محرمانه مدلهای اختصاصی خود را منتشر کنند.

آنتروپیک برای اینکه دیگران هم بتوانند روی این فناوری کار کنند، مشخصات فنی و کدهای اجرایی بخشهای مختلف FlashProve را تحت مجوز متنباز در گیتهاب منتشر کرده است. به این ترتیب، پژوهشگران و توسعهدهندگان میتوانند روش کار این سیستم را بررسی کنند و در تکمیل و بهبود آن نقش داشته باشند.