بیشتر وقت‌ها دربارهٔ هوش مصنوعی می‌پرسیم: «چقدر باهوشتر شده؟» اما یک تغییر دیگر هم می‌تواند شکل کارکردن ما را عوض کند: فاصلهٔ میان سؤال و جواب. اگر جواب تقریباً همان لحظه برسد، واقعاً چه چیزی در کار ما سریع‌تر می‌شود؟
ChatJimmy دموی گفت‌وگویی Taalas برای نمایش همین ایده است. شرکت برای اجرای یک مدل کوچک، سرعت چشمگیری اعلام کرده. برای من، بخش جالب ماجرا فقط عدد نیست؛ این است که وقتی انتظار کمتر شود، آیا بهتر فکر می‌کنیم یا فقط سریع‌تر خروجی می‌گیریم؟
عدد ۱۷هزار دقیقاً دربارهٔ چیست؟
طبق صفحهٔ رسمی HC1، سرعت اعلامشده ۱۷هزار توکن در ثانیه برای هر کاربر، با مدل Llama 3.1 8B و طول ورودی/خروجی ۱۰۰۰/۱۰۰۰ توکن است. نتیجه را آزمایشگاه خود شرکت گزارش کرده؛ تضمین همهٔ درخواست‌ها یا اندازه‌گیری مستقل کنارتم نیست.
توکن واحدی برای خردکردن متن است؛ می‌تواند بخشی از یک کلمه یا یک نشانه باشد. بنابراین «۱۷هزار توکن» را نباید «۱۷هزار کلمهٔ فارسی» خواند. تعداد پارامترها هم، که اینجا حدود ۸ میلیارد است، تعداد کلمات یا امتیاز هوش نیست.
برای مقایسهٔ این عدد با GPU، نامِ کارت به‌تنهایی کافی نیست؛ مدل، دقت عددی، طول ورودی، تعداد درخواست‌های هم‌زمان و اینکه سرعتِ یک کاربر را می‌سنجیم یا مجموع سرور، نتیجه را تغییر می‌دهند. صفحهٔ بنچمارک انویدیا هم سناریوها و پیکربندی‌های متفاوت دارد.
مدل داخل تراشه یعنی چه؟
در توضیح فنی Taalas، HC1 سخت‌افزاری متناسب با یک مدل مشخص است؛ ذخیره‌سازی و محاسبه نزدیک و یکپارچه شده‌اند. برای فهم ایده، کارخانه‌ای را تصور کنید که خط تولیدش را برای یک محصول مشخص می‌چیند: بخشی از انعطاف را می‌دهد تا همان کار را کارآمدتر انجام دهد.
بهای این انتخاب مهم است: نمونهٔ معرفی‌شده، یک رایانهٔ همه‌کاره برای جابه‌جایی آزادانه میان مدل‌ها نیست. البته «سخت‌افزاری‌شدن» هم به معنی نبود هر نوع تغییر نیست؛ شرکت از پشتیبانی تنظیمات زمینه و آداپترهای LoRA برای سازگارکردن مدل گفته است.
برای سرعت، دقت عددی پارامترها نیز کاهش یافته: ترکیبی از ۳ و ۶ بیت. خود شرکت افت کیفیت نسبت به معیارهای GPU را می‌پذیرد. یعنی باید سرعت و کیفیت را کنار هم دید؛ نه اینکه کیفیت را فعلاً کنار بگذاریم و فقط مجذوب سرعت شویم.
جواب آنی، پروژهٔ آنی نمی‌سازد
در تجربهٔ یک کاربر چند زمان روی هم جمع می‌شوند: ارسال درخواست، آماده‌کردن ورودی، انتظار احتمالی در صف، تولید خروجی و رسیدن آن به صفحه. بعد تازه نوبت خواندن، بررسی و استفاده از جواب است. نرخ تولید توکن فقط یکی از این بخش‌هاست.
برای ما که محتوا می‌سازیم، تفاوت ملموس است:
| کار | کاهش انتظار چه کمکی میکند؟ | چه چیزی همچنان وقت می‌خواهد؟ |
|---|---|---|
| نوشتن هوک و تیتر | دیدن و اصلاح چند پیشنهاد با مکث کمتر | شناخت مخاطب، انتخاب و حفظ لحن |
| تحقیق برای ویدیو | سریع‌ترگرفتن پیش‌نویس و پرسش‌های بعدی | پیداکردن سند، خواندن و راستی‌آزمایی |
| تدوین و ساخت ویدیو | کوتاه‌ترشدن گفت‌وگو با دستیار متنی | کار با فایل، انتخاب نما، پردازش تصویر و صدا، رندر |
این‌ها امکان‌های قابل‌تصورند؛ ادعای قابلیت فعلی ChatJimmy برای اجرای این کارها نیستند. یک چت‌بات سریع خودبه‌خود به فایل‌ها و نرم‌افزار تدوین دسترسی ندارد. در تفاوت چت‌بات و ایجنت همین مرز را با مثال باز کرده‌ایم.
برای امتحان‌کردن، دنبال چه باشیم؟
اگر صفحهٔ دمو در دسترس شما باز شد، یک درخواست کوتاه و قابل‌بررسی بدهید. مثلاً این تمرین، که پیشنهاد ماست و نتیجهٔ اجرای آن را گزارش نمی‌کنیم:
برای ویدیویی دربارهٔ «چرا شروع کار را عقب می‌اندازیم»، پنج هوک متفاوت پیشنهاد بده. هر هوک حداکثر ۱۲ کلمه باشد و از وعدهٔ قطعی و آمار ساختگی استفاده نکن.
فقط سرعت ظاهرشدن متن را نبینید. تعداد کلمه‌ها را بشمارید، تکراری‌بودن پیشنهادها را بررسی کنید و یک‌بار بخواهید ضعیف‌ترین گزینه را اصلاح کند. خروجی سریع، وقتی ارزش دارد که قابل‌استفاده باشد.
فارسی هم آزمون جداگانه می‌خواهد: در کارت رسمی مدل متا، فارسی جزو هشت زبانِ رسماً پشتیبانی‌شده نیست. این به معنی ناتوانی مطلق در فارسی نیست؛ تضمین کیفیت فارسی هم نداریم. پنجرهٔ زمینهٔ مدل اصلی را نیز نباید بدون سند به پیکربندی این دمو تعمیم داد.
الان می‌شود روی آن کار واقعی بنا کرد؟
در بررسی ۲۸ اکتبر ۲۰۲۶، رابط وب برای ما به وضعیت Ready رسید؛ اما این را به دسترسی بدون محدودیت از ایران یا همهٔ کشورها تعمیم نمی‌دهیم. آزمون مستقلِ تأخیر، کیفیت یا بار هم‌زمان انجام نداده‌ایم.
صفحهٔ درخواست API فعلاً ثبت درخواست تازه را بسته اعلام میکند. برای ساخت محصول، باید امکان دریافت دسترسی را جداگانه بررسی کرد. این صفحه دربارهٔ درخواست‌های جدید است، نه مدرک تعطیلی سرویس. قیمت عمومی و تعهد سرویس مناسبی برای توصیهٔ اتکای تولیدی در منابع بررسی‌شده نداریم.
در سیاست حریم خصوصی Taalas، شرکت میگوید از ورودی و خروجی برای آموزش و بهبود مدل استفاده نمیکند، اما داده‌های فنیِ استفاده را جمع میکند. برای امتحان اولیه، همان موضوع عمومی بالا کافی است؛ نیازی به فرستادن اطلاعات محرمانهٔ مشتری نیست.
یک به‌روزرسانی مهم هم در متن‌های قدیمی جا می‌ماند: طبق اطلاعیهٔ رسمی AMD در ۶ اوت ۲۰۲۶، Taalas در تورنتوی کانادا تأسیس شده و AMD توافق قطعی خرید آن را اعلام کرده است. همان اطلاعیه، نهایی‌شدن معامله را مشروط می‌داند؛ اعلام توافق را با تأیید بسته‌شدن معامله یکی نمی‌گیریم. خبر اولیهٔ فناوری هم به فوریهٔ ۲۰۲۶ برمی‌گردد، نه روز نوشتن این یادداشت.
نظر بی‌باک: اگر انتظار کم شود، چه چیزی از ما باقی می‌ماند؟
به نظرم آیندهٔ هوش مصنوعی را فقط از روی باهوش‌ترشدن مدل‌ها نمی‌شود فهمید. گاهی تغییری که شکل یک کار را عوض میکند، کم‌شدن همان مکثی است که دیگر به بودنش عادت کرده‌ایم.
وقتی هر رفت‌وبرگشت طول می‌کشد، ایده‌های کمتری را امتحان می‌کنیم. اگر این فاصله کوتاه شود، می‌شود بیشتر پرسید، بیشتر اصلاح کرد و زودتر فهمید کدام مسیر ارزش ادامه‌دادن دارد. امکان تازه فقط «بیشتر تولیدکردن» نیست؛ شاید فرصتِ بیشتر برای کنارگذاشتن گزینه‌های ضعیف باشد.
برای تصورش، اینترنت دایال‌آپ را به یاد بیاوریم: عکسی که خط‌به‌خط باز می‌شد. سرعت بیشتر فقط همان عکس را زودتر نیاورد؛ همراه با تغییر زیرساخت، هزینه و محصول، شکل‌های تازه‌ای از استفاده را ممکن کرد. این یک تشبیه است، نه پیش‌بینی قطعی اینکه AI دقیقاً همان مسیر را می‌رود.
اما با جملهٔ «تنها مانع، سرعت تصمیم‌گرفتن ماست» همراه نیستم. گاهی هنوز اطلاعات کافی نداریم. گاهی جواب را باید آزمود. گاهی مسئله، سلیقه، اعتماد، مسئولیت یا محدودیت دنیای واقعی است. هیچ‌کدام با سریع‌تر ظاهرشدن یک پاراگراف ناپدید نمی‌شوند.
اگر ماشین سریع‌تر جواب بدهد، ما هم می‌توانیم سریع‌تر اشتباه کنیم.
برای همین، سؤال من این نیست که با این سرعت چند برابر محتوا می‌سازیم. سؤال این است: وقتی ساختن ارزان‌تر و انتظار کوتاه‌تر شود، چطور تصمیم می‌گیریم چه چیزی اصلاً ارزش ساخته‌شدن دارد؟
پرسش‌های رایج
آیا ChatJimmy از مدلهای بزرگ باهوشتر است؟
عدد سرعت چنین چیزی را ثابت نمیکند. نمونهٔ معرفیشدهٔ HC1 مدل Llama 3.1 8B را اجرا میکند؛ خود Taalas از افت کیفیت ناشی از کمکردن دقت عددی پارامترها گفته است.
۱۷هزار توکن در ثانیه یعنی پاسخ بدون تأخیر؟
خیر. این نرخِ تولید خروجی در آزمون اعلامشده است. زمان ارسال درخواست، پردازش ورودی، صف، شبکه و نمایش رابط هم در تجربهٔ کاربر سهم دارند.
آیا API برای ثبتنام جدید باز است؟
در بررسی ۲۸ اکتبر ۲۰۲۶، صفحهٔ رسمی درخواست API میگوید فعلاً درخواست تازه نمیپذیرد. این به معنی تعطیلی دموی وب یا قطع دسترسی کاربران قبلی نیست.