اثبات هویت مدل هوش مصنوعی با پروتکل FlashProve؛ راستی‌آزمایی بدون افشای اسرار
اثبات هویت مدل هوش مصنوعی: این سیستم بدون افشای وزن‌های محرمانه مدل، امکان تأیید صحت خروجی را در چند ثانیه روی یک پردازنده معمولی فراهم می‌کند.
خلاصه
پروتکل FlashProve یک سیستم اثبات با دانش صفر (Zero-Knowledge Proof) برای استنتاج هوش مصنوعی است که به ارائه‌دهندگان سرویس اجازه می‌دهد ثابت کنند پاسخ کاربر دقیقاً توسط همان مدل وعده‌داده‌شده تولید شده است. این سیستم بدون افشای وزن‌های محرمانه مدل، امکان تأیید صحت خروجی را در چند ثانیه روی یک پردازنده معمولی فراهم می‌کند.
چطور به خروجی هوش مصنوعی اعتماد کنیم؟
زمانی که از یک مدل هوش مصنوعی در بستری مانند هوش مصنوعی نهال استفاده می‌کنید، انتظار دارید که دقیقاً همان مدلی که هزینه آن را پرداخته‌اید (مثلاً Llama ۴) پاسخ شما را بدهد. اما در دنیای پردازش ابری، کاربر به‌طور مستقیم نمی‌بیند که در پشت صحنه چه می‌گذرد. آیا ارائه‌دهنده از نسخه ارزان‌تر و ضعیف‌تر استفاده کرده است؟ پروتکل FlashProve که یک نمونه تحقیقاتی از تیم انتروپیک (Anthropic) است، برای حل همین ابهام طراحی شده است.
این ابزار به ارائه‌دهنده اجازه می‌دهد یک «شناسه تعهد» (Commitment ID) منتشر کند که به مجموعه‌ای از وزن‌های مشخص مدل گره خورده است. وزن‌های مدل همچنان محرمانه باقی می‌مانند، اما برای هر پاسخ، یک اثبات ریاضی تولید می‌شود که نشان می‌دهد این خروجی، حاصل همان مدل متعهد شده است.
سازوکار اثبات و تأیید در FlashProve
فرآیند کار در این پروتکل به سه مرحله اصلی تقسیم می‌شود که امنیت و سرعت را هم‌زمان حفظ می‌کند:
۱. تعهد (Commit): ارائه‌دهنده مدل، یک شناسه منتشر می‌کند که هویت مدل را ثابت می‌کند بدون اینکه لایه‌های داخلی آن را لو بدهد. ۲. اثبات (Prove): هنگام پاسخ به هر درخواست کاربر، کارت گرافیک (GPU) ارائه‌دهنده یک سند ریاضی تولید می‌کند. ۳. تأیید (Verify): هر کسی می‌تواند این سند را با استفاده از ابزار ۰ روی یک پردازنده معمولی (CPU) در کمتر از ۲ ثانیه بررسی کند.
این سیستم روی مدل‌های بزرگی مثل Llama ۴ Maverick با پنجره محتوای ۱، ۰۲۴ توکنی آزمایش شده است. در آزمایش‌های انجام شده روی یک پردازنده گرافیکی NVIDIA H۱۰۰، سرعت تولید اثبات در مرحله پیش‌پردازش (Prefill) به حدود ۱۱۰ توکن در ثانیه رسیده است.
امنیت ریاضی و تضمین صحت
اعتبار این پروتکل در زبان برنامه‌نویسی Lean ۴ اثبات شده است. طبق محاسبات فنی، احتمال اینکه یک ارائه‌دهنده بتواند خروجی مدل دیگری را به جای مدل اصلی جا بزند و شناسایی نشود، تقریباً صفر است (احتمالی در حدود ۲ به توان منفی ۱۲۴). این یعنی تقلب در سیستم عملاً غیرممکن است، مگر اینکه ارائه‌دهنده بتواند معادلات پیچیده ریاضی را که فراتر از توان پردازشی فعلی بشر است، دور بزند.
پیش‌نیازهای فنی برای اجرا
اجرای کامل FlashProve به تجهیزات قدرتمندی نیاز دارد. برای مثال، برای اجرای مدل کامل در ابعاد Maverick، به ۳۳۰ گیگابایت حافظه رم (RAM) و ۲۴۵ گیگابایت فضای دیسک نیاز است. همچنین سیستم باید مجهز به کارت گرافیک NVIDIA H۱۰۰ با ۸۰ گیگابایت حافظه اختصاصی باشد.
با این حال، برای کاربرانی که فقط قصد تأیید (Verification) دارند، یک سیستم لینوکسی معمولی با کمتر از ۲ گیگابایت رم کافی است. این ویژگی باعث می‌شود که نظارت بر عملکرد هوش مصنوعی، برای سازمان‌ها و شرکت‌های ایرانی که از خدمات هوش مصنوعی سازمانی استفاده می‌کنند، به کاری کم‌هزینه و سریع تبدیل شود.
نکات کلیدی
- تأیید سریع: بررسی صحت اثبات روی یک لپ‌تاپ معمولی کمتر از ۲ ثانیه زمان می‌برد.
- امنیت دانش صفر: وزن‌های مدل و اسرار تجاری ارائه‌دهنده هرگز فاش نمی‌شوند.
- اثبات ریاضی: پروتکل دارای تاییدیه رسمی در Lean ۴ است که ضریب خطای آن را به حداقل ممکن می‌رساند.
- تمرکز بر ایجنت‌ها: ساختار پروژه برای اجرا توسط ایجنت‌های کدنویسی بهینه شده است تا پیچیدگی‌های نصب و بیلد کاهش یابد.
منبع: github.com