FlashProve می‌تواند اجرای مدل هوش مصنوعی را راستی‌آزمایی کند؛ با هزینه‌ای بالا
نمونه پژوهشی FlashProve بررسی می‌کند پاسخ از وزن‌های مشخص یک مدل تولید شده باشد؛ اما ساخت اثبات در آزمایش تا ۹۵ برابر زمان GPU بیشتری می‌گیرد.
نکات کلیدی
• FlashProve بررسی می‌کند خروجی با وزن‌های مشخص‌شده‌ی مدل تولید شده باشد، بی‌آنکه وزن‌ها افشا شوند. • آزمایش Llama ۴ Maverick نشان داد تولید اثبات حدود ۷۰ تا ۹۵ برابر زمان GPU استنتاج معمولی زمان می‌برد. • اثبات، درستی پاسخ یا هویت معتبر مدل را تضمین نمی‌کند؛ شناسه‌ی وزن‌ها باید از مرجعی مورد اعتماد باشد. • نمونه‌ی پژوهشی محدودیت‌هایی از جمله پنجره‌ی ۱,۰۲۴ توکنی و کد اجراییِ اثبات‌نشده دارد.
راستی‌آزمایی بدون افشای وزن‌ها
نمونه‌ی پژوهشی FlashProve راهی برای بررسی محاسبات یک مدل هوش مصنوعی پیشنهاد می‌کند، بی‌آنکه وزن‌های خصوصی آن در اختیار کاربر قرار بگیرد. ارائه‌دهنده ابتدا شناسه‌ای رمزنگاری‌شده از وزن‌های مدل ثبت می‌کند و سپس اثباتی می‌سازد که نشان دهد مدل متناظر با همان وزن‌ها، ورودی مشخص را به خروجی بررسی‌شده رسانده است.
این روش به کاربر اجازه می‌دهد اثبات را بررسی کند، بدون آنکه وزن‌ها را دانلود کند یا مدل را دوباره اجرا کند. بااین‌حال، شناسه‌ی مدل باید از منبعی مورد اعتماد به دست آمده باشد؛ اثبات به‌تنهایی نشان نمی‌دهد آن شناسه واقعاً متعلق به مدل تبلیغ‌شده است.
۷۰ تا ۹۵ برابر
زمان بیشتر GPU
۱۹ مگابایت
حجم هر اثبات
۱,۰۲۴ توکن
حد پنجره زمینه
۱۷ ثانیه
بررسی با ۲۴ رشته
هزینه‌ی محاسباتی بالا
آزمایش با نسخه‌ی ۴ بیتی Llama ۴ Maverick انجام شد؛ مدلی با ۴۰۰ میلیارد پارامتر. طبق نتایج گزارش‌شده، ساخت اثبات حدود ۷۰ تا ۹۵ برابر زمان GPU مقایسه‌ی مشخص با vLLM را نیاز داشت.
هر اثبات برای درخواست ۱,۰۲۴ توکنی حدود ۱۹ مگابایت حجم داشت. بررسی آن روی ۲۴ رشته‌ی پردازشی CPU حدود ۱۷ ثانیه و روی یک رشته ۲۱ ثانیه زمان برد؛ بخش پرهزینه، تولید اثبات است نه بررسی آن.
محدودیت‌هایی فراتر از هزینه
FlashProve در وضعیت فعلی فقط محاسبات بررسی‌شده را تأیید می‌کند، نه درستی یا ایمنی پاسخ را. همچنین آزمایش، قابلیت فعال‌شده‌ای برای مشتریان Claude نیست و به‌عنوان یک نمونه‌ی پژوهشی عرضه شده است.
پنجره‌ی زمینه‌ی فعلی به ۱,۰۲۴ توکن محدود است و روش، انتخاب حریصانه‌ی توکن‌ها را بررسی می‌کند؛ پاسخ‌های نمونه‌برداری‌شده یا محاسبات معمول ممیز شناور ممکن است با آن متفاوت باشند. گزارش همچنین می‌گوید کد اجرایی سریع با پروتکل رسمی اثبات‌شده هم‌ارزی‌اش ثابت نشده و اثبات رسمیِ ویژگی حفظ محرمانگی برای درخواست‌های دسته‌ای هنوز ارائه نشده است.
چرا این خبر مهم است؟
این روش می‌تواند به خریداران خدمات هوش مصنوعی کمک کند بررسی کنند مدل مشخص‌شده واقعاً محاسبه‌ی پاسخ را انجام داده است. هزینه‌ی بالای تولید اثبات و این واقعیت که اثبات، صحت پاسخ را تضمین نمی‌کند، دامنه‌ی این اطمینان را محدود می‌کند.
پرسش‌های پرتکرار
آیا FlashProve درستی پاسخ را تضمین می‌کند؟
خیر؛ فقط محاسبات مدلِ مشخص‌شده را برای خروجی بررسی‌شده اثبات می‌کند.
آیا این قابلیت برای مشتریان Claude فعال شده است؟
خیر؛ متن آن را نمونه‌ای پژوهشی معرفی می‌کند، نه قابلیتی فعال برای مشتریان Claude.
- #اقتصاد کلان
- #AI
- #FlashProve
- #Llama 4
- #Zero-Knowledge
این خبر بازنویسی فارسی گزارش منبع اصلی است و توصیه‌ی سرمایه‌گذاری نیست. پیش از هر تصمیم مالی، منبع اصلی را بررسی و ریسک خود را بسنجید.
