ترفند ارائه‌دهندگان هوش مصنوعی رو شد / سیستم جدید آنتروپیک برای جلوگیری از فریب مشتریان

شرکت آنتروپیک در حال توسعه سامانه‌ای به نام «فلش‌پروو» است که با استفاده از روش‌های رمزنگاری، مشخص می‌کند هر پاسخ هوش مصنوعی واقعاً توسط کدام مدل تولید شده است؛ قابلیتی که می‌تواند جلوی معرفی مدل‌های ضعیف‌تر به‌جای مدل‌های پیشرفته را بگیرد.

این فناوری به مسئله‌ای مهم در بازار هوش مصنوعی می‌پردازد: کاربران و شرکت‌ها معمولاً نمی‌توانند مطمئن شوند مدلی که بابت استفاده از آن هزینه می‌پردازند، همان مدلی است که ارائه‌دهنده ادعا می‌کند.برای مثال، یک شرکت ارائه‌دهنده خدمات هوش مصنوعی ممکن است بدون اطلاع مشتری، مدل گران‌قیمت را با مدلی ارزان‌تر جایگزین کند و همچنان هزینه مدل پیشرفته را دریافت کند. فلش‌پروو قرار است امکان شناسایی چنین جایگزینی‌هایی را فراهم کند.

سازوکار این سیستم بر پایه ایجاد یک «اثر انگشت رمزنگاری‌شده» برای هر مدل است. این اثر انگشت امکان بررسی اصالت خروجی را فراهم می‌کند، بدون آنکه وزن‌ها و ساختار داخلی مدل افشا شوند.آنتروپیک مشخصات فنی و کد بخش‌هایی از این پروژه را با مجوز متن‌باز منتشر کرده است؛ بااین‌حال، فلش‌پروو هنوز در مرحله پژوهشی قرار دارد و برنامه‌ای برای استقرار آن در آنتروپیک یا سایر شرکت‌ها اعلام نشده است.