آنتروپیک در حال توسعه ابزار متن‌باز FlashProve است؛ سیستمی که با کمک رمزنگاری، هویت مدل تولیدکننده هر پاسخ را تأیید می‌کند. اهمیت این فناوری برای شما در این است که می‌توانید منشأ خروجی هوش مصنوعی را بررسی کنید و فقط به نام مدلی که شرکت ارائه‌دهنده اعلام کرده است، متکی نباشید.
نکات کلیدی
- FlashProve برای هر خروجی، مدرکی ریاضی درباره مدل تولیدکننده آن ارائه می‌کند.
- این سیستم از «اثر انگشت مدل» برای شناسایی مدل‌های مختلف استفاده می‌کند.
- وزن‌ها و اطلاعات محرمانه مدل با انتشار این شناسه فاش نمی‌شوند.
- این ابزار برای مقابله با جایگزینی پنهانی مدل‌ها و بررسی ادعاهای مرتبط با هوش مصنوعی طراحی شده است.
- مشخصات فنی و کدهای بخش‌های مختلف FlashProve با مجوز متن‌باز منتشر شده‌اند.
چرا تشخیص مدل واقعی مهم است؟
کاربر یک سرویس هوش مصنوعی معمولاً راه مستقیمی برای تشخیص مدل پشت پاسخ ندارد. در نتیجه، ممکن است شرکت ارائه‌دهنده برای کاهش هزینه‌ها، مدلی ارزان‌تر را به‌جای مدل پیشرفته‌ای که معرفی کرده است به کار بگیرد؛ بدون اینکه کاربران متوجه این جابه‌جایی شوند.
حالت معکوس نیز ممکن است رخ دهد: یک شرکت می‌تواند برای بهتر نشان‌دادن نتایج ارزیابی خود، از مدلی گران‌تر استفاده کند. در هر دو وضعیت، فاصله‌ای میان ادعای ارائه‌دهنده و مدل واقعی ایجاد می‌شود و کاربر راه روشنی برای راستی‌آزمایی آن ندارد.
FlashProve و سازوکار تأیید هویت مدل‌ها قرار است این وابستگی به اعتماد صرف را کاهش دهد. مدرک رمزنگاری‌شده این سیستم نشان می‌دهد هر پاسخ توسط کدام مدل تولید شده است و امکان بررسی منشأ خروجی را فراهم می‌کند.
FlashProve چگونه کار می‌کند؟
عملکرد FlashProve را می‌توان به امضای دیجیتال ایمیل تشبیه کرد. همان‌طور که امضای دیجیتال به دریافت‌کننده کمک می‌کند فرستنده واقعی یک ایمیل را تأیید کند، FlashProve نیز مشخص می‌کند پاسخ هوش مصنوعی از همان مدل اعلام‌شده آمده است یا نه. این سازوکار حتی برای مقاومت در برابر جعل هویت از سوی شرکت سازنده مدل طراحی شده است.
شرکت‌های هوش مصنوعی برای استفاده از این روش باید برای هر مدل یک شناسه اختصاصی منتشر کنند. آنتروپیک این شناسه را اثر انگشت مدل می‌نامد؛ مشخصه‌ای منحصربه‌فرد که امکان تطبیق خروجی با مدل تولیدکننده را در اختیار سیستم قرار می‌دهد.
انتشار اثر انگشت مدل به معنی انتشار وزن‌های آن نیست. وزن‌ها مجموعه اعداد داخلی هستند که رفتار و شیوه پاسخ‌گویی مدل را تعیین می‌کنند و در این روش همچنان محرمانه باقی می‌مانند. بنابراین، شرکت‌هایی مانند آنتروپیک و OpenAI می‌توانند بدون انتشار اطلاعات اصلی مدل‌های اختصاصی خود از این فناوری استفاده کنند.
از بررسی نرم‌افزار تا تأیید ادعاهای تجاری
کاربرد FlashProve فقط به شناسایی جایگزینی پنهانی مدل‌ها محدود نیست. این سیستم می‌تواند برای بررسی ادعاهایی به کار رود که انجام یک کار مشخص را به مدلی خاص نسبت می‌دهند.
برای نمونه، ممکن است توسعه‌دهنده‌ای اعلام کند نرم‌افزار خود را با کمک یک مدل پیشرفته امنیت سایبری از نظر آسیب‌پذیری بررسی کرده است. یک شرکت نیز ممکن است مدعی شود طرح کسب‌وکارش با یک مدل پیشرفته ارزیابی و تأیید شده است. FlashProve به دیگران اجازه می‌دهد بررسی کنند آیا همان مدل ادعاشده واقعاً وظیفه موردنظر را انجام داده است یا خیر.
این موضوع برای توسعه‌دهندگان، کاربران و کسب‌وکارهایی اهمیت دارد که تصمیم‌هایشان را بر پایه خروجی یک مدل مشخص می‌گیرند. در چنین موقعیتی، تأیید هویت مدل می‌تواند میان یک ادعای صرف و یک خروجی قابل‌بررسی تفاوت ایجاد کند.
توسعه به‌صورت متن‌باز
آنتروپیک مشخصات فنی و کدهای اجرایی بخش‌های مختلف FlashProve را با مجوز متن‌باز در گیت‌هاب منتشر کرده است. این رویکرد به پژوهشگران و توسعه‌دهندگان اجازه می‌دهد سازوکار سیستم را بررسی کنند و در تکمیل و بهبود آن مشارکت داشته باشند.
متن‌باز بودن در این پروژه به معنی افشای مدل‌های اختصاصی نیست؛ آنچه در دسترس قرار گرفته، مشخصات و اجزای مربوط به سازوکار تأیید هویت است. اطلاعات محرمانه‌ای مانند وزن‌های مدل همچنان مخفی می‌مانند.
جمع‌بندی
FlashProve تلاشی برای پاسخ به یک پرسش ساده اما مهم است: آیا پاسخی که دریافت کرده‌اید واقعاً از همان مدل وعده‌داده‌شده آمده است؟ اگر این روش در سرویس‌های هوش مصنوعی به کار گرفته شود، شما می‌توانید هویت مدل تولیدکننده خروجی را با مدرکی رمزنگاری‌شده بررسی کنید، نه اینکه تنها به ادعای ارائه‌دهنده اعتماد داشته باشید.