QVAC تتر مدل های هوش مصنوعی چند میلیارد پارامتری را در تلفن ها و پردازنده های گرافیکی مصرف کننده قرار می دهد.
پارچه QVAC Tether BitNet LoRA را برای تنظیم دقیق و اجرای مدل‌های هوش مصنوعی چند میلیارد پارامتری روی پردازنده‌های گرافیکی مصرف‌کننده و تلفن‌های پرچمدار ادغام می‌کند و کار جدی هوش مصنوعی را به سمت لبه پیش میبرد.
خلاصه
- QVAC Fabric تنظیم دقیق و استنتاج BitNet LoRA را برای پردازنده‌های گرافیکی AMD و اینتل، پشته فلزی اپل و پردازنده‌های گرافیکی موبایل پیشرفته ارائه می‌کند و ادعا می‌کند که سرعت ۲ تا ۱۱ برابری را نسبت به خطوط پایه پردازنده افزایش می‌دهد و تا ۹۰ درصد مصرف حافظه کمتری دارد.
- تتر می گوید که مدل های تا 3.8 میلیارد پارامتر را در پیکسل 9، گلکسی اس 25 و آیفون 16 و حداکثر 13 میلیارد پارامتر در آیفون 16 تنظیم کرده است که هوش مصنوعی دستگاه را بسیار فراتر از نمونه های نمایشی معمولی زیر 3B امروزی می برد.را
- این انتشار مربوط به انتقال Tether از یک صادرکننده استیبل کوین خالص به یک بازیگر زیرساخت است، که مکمل ابتکارات قبلی QVAC مانند مجموعه داده Genesis I با 41 میلیارد توکن و Workbench بومی هوش مصنوعی برای به چالش کشیدن خندق هوش مصنوعی Big Tech است.
بخش هوش مصنوعی تتر بی سر و صدا یکی از تهاجمی‌ترین شرط‌بندی‌های غیراستیبل‌کوین خود را تا به امروز ارسال کرده است: یک چارچوب BitNet LoRA چند پلتفرمی که در پشته QVAC Fabric آن ادغام شده است که می‌تواند مدل‌های زبان چند میلیارد پارامتری را مستقیماً روی پردازنده‌های گرافیکی درجه یک مصرف‌کننده و گوشی‌های هوشمند پرچمدار آموزش و اجرا کند. اگر این اعداد فراتر از معیارهای خود تتر باقی بمانند، هوش مصنوعی دستگاه را از قلمرو «دموی زیبا» خارج می‌کند و به چیزی که از نظر سیستمی مربوط به فروشندگان سخت‌افزار و سرمایه‌گذاران زیرمجموعه ارز دیجیتال است، رانده می‌شود.
نسخه جدید QVAC Fabric تنظیم دقیق و پین های BitNet LoRA را برای پردازنده های گرافیکی AMD و Intel، اکوسیستم فلزی اپل و طیف وسیعی از پردازنده های گرافیکی موبایل در یک چارچوب واحد ارائه می دهد. تتر ادعا می کند که در دستگاه های پرچمدار، استنتاج مبتنی بر GPU بین 2 تا 11 برابر سریعتر از خطوط پایه CPU است، در حالی که میزان استفاده از حافظه در مقایسه با مدل های با دقت کامل تا 90 درصد کاهش می یابد. در عمل، این بدان معناست که می‌توانید مدل‌های بسیار بزرگ‌تر یا جلسات هم‌زمان بیشتری را در یک پوسته سخت‌افزاری فشرده کنید – برای تلفن‌ها و لپ‌تاپ‌هایی که سقف حرارتی و رم در آنها مطرح نیست، بسیار مهم است.
اعداد تیتر تحریک‌کننده هستند: تیم Tether می‌گوید که مدل‌های تنظیم دقیق حداکثر 3.8 میلیارد پارامتر را در دستگاه‌هایی مانند پیکسل 9، گلکسی اس 25 و آیفون 16 تکمیل کرده است و به طور خاص تا 13 میلیارد پارامتر را در آیفون 16 تنظیم دقیق کرده است. این یک تشدید شدید از هنجار فعلی است، جایی که بیشتر بازاریابی “هوش مصنوعی دستگاه” هنوز حول مدل‌های پارامتر زیر 3B یا بارگذاری بارهای کاری سنگین‌تر به فضای ابری است. اگر قابل تکرار باشد، آینده‌ای را پیشنهاد می‌کند که در آن شخصی‌سازی جدی و تطبیق‌های خاص دامنه را می‌توان به صورت محلی بدون ارسال داده‌های کاربر خارج از دستگاه انجام داد.
از نظر استراتژیک، این مناسب است تغییر مداوم تتر از یک صادرکننده استیبل کوین خالص به یک اپراتور زیرساخت گسترده تر. این شرکت تاکنون میلیاردها دلار در انرژی، معدن و رسانه سرمایه گذاری کرده است. در حال حاضر ابزارهای هوش مصنوعی لبه‌ای را به مجموعه اضافه می‌کند، با کد QVAC و BitNet LoRA مرتبط که در GitHub منبع باز است تا توسعه‌دهندگان آن را بررسی و توسعه دهند. منبع باز نوع دوستی نیست – توزیع است. اگر QVAC به مسیر پیش‌فرض توسعه‌دهندگان مستقل و آزمایشگاه‌های کوچک تبدیل شود تا مدل‌ها را بر روی سخت‌افزار مصرف‌کننده فشار دهند، Tether ارتباط فرهنگی و فنی را در پشته‌ای می‌خرد که به خوبی خارج از خط آتش مستقیم مقررات بانکی قرار دارد.را
برای بازارها، تأثیر فوری توصیفی است، نه سود و زیان. هیچ علامتی در اینجا وجود ندارد، هیچ زاویه آشکاری برای “مزرعه این محصول” وجود ندارد. اما یک داستان کلان واضح وجود دارد: همانطور که کارهای هوش مصنوعی بیشتر به سمت لبه حرکت می کنند، قدرت زیرساخت از ابر مقیاس کننده های متمرکز به کسانی که زنجیره های ابزار کلیدی و لایه های انتزاع سخت افزاری را کنترل می کنند تغییر می کند. تتر نشان داده است که قصد دارد یکی از این بازیکنان باشد و از ترازنامه خود برای به اشتراک گذاشتن موارد اولیه استفاده کند که وابستگی به هر ابر یا حوزه قضایی فردی را کاهش می دهد. برای کریپتو، اکوسیستمی که به طور فزاینده‌ای به بازی‌های هوش مصنوعی وسواس دارد، یادآوری می‌کند که هر شرط‌بندی جدی نیازی به یک نماد تیک‌دار ندارد.را
در حال حاضر، سؤالات واضح فنی هستند: چگونه افزایش سرعت و کاهش حافظه ادعایی BitNet LoRA با مواردی مانند llama.cpp، MLC، یا SDK خود کوالکام در دستگاه‌های مشابه مقایسه می‌شود. مبادلات انرژی و حرارتی در استفاده در دنیای واقعی چگونه است. و چقدر مجوزها برای استقرار تجاری مجاز است. اما اگر حتی کسری محافظه کارانه از ادعاهای تتر در معیارهای مستقل ثابت شود، ادغام BitNet LoRA QVAC Fabric گامی ملموس در جهت تبدیل گوشی‌های هوشمند سطح بالا به سیستم‌های یادگیری و استنتاج مدل‌های متوسط زبان بادوام خواهد بود – هوش مصنوعی را یک درجه به لبه نزدیک‌تر می‌کند و زیرساخت دیجیتالی دیگر را به Tether نزدیک می‌کند.
