کلود شنون (Claude Shannon) ریاضی‌دان و مهندس آمریکایی بود که در سال ۱۹۴۸ راهی برای اندازه‌گیری اطلاعات و بررسی انتقال آن در یک کانال ارتباطی ارائه کرد. به همین دلیل او را یکی از بنیان‌گذاران نظریهٔ اطلاعات می‌دانند. نام دستیار هوش مصنوعی Claude نیز بنا بر روایتی از داخل شرکت Anthropic، تا حدی ادای احترام به شنون است؛ هرچند خود شرکت در اطلاعیهٔ معرفی محصول، دلیل انتخاب نام را توضیح نداده است.
در راهروهای بل لبز، شنون گاهی سوار تک‌چرخ می‌شد و هم‌زمان ژانگولر می‌کرد. در کارگاه خانه‌اش هم دستگاه‌های عجیب می‌ساخت. اما آنچه نامش را ماندگار کرد، پرسشی بود که به مسئله‌ای قابل‌محاسبه تبدیلش کرد: یک پیام چقدر اطلاعات دارد و چطور می‌توان آن را با وجود نویز منتقل کرد؟
از ریاضی و مهندسی تا بل لبز
شنون به‌جای انتخاب یکی از دو مسیر، در دانشگاه میشیگان ریاضی و مهندسی برق خواند. بعد در MIT نشان داد منطق بولی، با درست و نادرست‌هایش، می‌تواند رفتار مدارهای رله و کلید را توصیف کند؛ پلی میان یک ایدهٔ انتزاعی و ساخت مدار واقعی. زندگی‌نامهٔ MIT و نسخهٔ آرشیوی پایان‌نامهٔ او این بخش از کارش را ثبت کرده‌اند.
او در سال ۱۹۴۱ به Bell Labs رفت. در دورهٔ جنگ جهانی دوم، از جمله روی سامانه‌های ارتباطی امن و سامانه‌های کنترل آتش ضدهوایی کار کرد. در همان محیط پژوهشی بود که مسئلهٔ انتقال پیام از راه تلفن و دیگر کانال‌ها را به شکلی عمومی‌تر صورت‌بندی کرد. قرار نبود نظریه‌اش فقط برای یک دستگاه مشخص جواب بدهد.
پژوهش دربارهٔ امن‌ماندن پیام نیز برای او یک مسیر جدی بود. شنون در مقالهٔ «Communication Theory of Secrecy Systems» در سال ۱۹۴۹ مسئلهٔ رمزنگاری را با زبان احتمال و اطلاعات بررسی کرد. این بخش از کارش نشان می‌دهد همان پرسش کلی، بسته به موقعیت، دو شکل دارد: آیا گیرندهٔ موردنظر پیام را درست می‌گیرد، و آیا فردی که نباید پیام را بخواند از آن چیزی درمی‌یابد؟
مقالهٔ ۱۹۴۸ دقیقاً چه چیزی را تغییر داد؟
شنون مقالهٔ «A Mathematical Theory of Communication» را در دو بخش در سال ۱۹۴۸ منتشر کرد. سؤال مهندسی او این بود: اگر فرستنده از میان چند پیام ممکن یکی را انتخاب کند، گیرنده چگونه می‌تواند آن پیام را با وجود محدودیت کانال و نویز بازسازی کند؟
فرستنده، کانال و گیرنده؛ یک مدل برای همهٔ پیام‌ها
شنون در مقالهٔ ۱۹۴۸، ارتباط را به چند جزء تقسیم کرد: منبع پیام، فرستنده، کانال، گیرنده و مقصد. مثلاً در یک تماس، صدای شما پیام است؛ دستگاه آن را به سیگنال تبدیل می‌کند، سیگنال از شبکه عبور می‌کند و دستگاه طرف مقابل آن را بازسازی می‌کند. در زمان شنون مسئله بیشتر دربارهٔ تلفن و تلگراف بود، اما مدل به یک دستگاه خاص محدود نمی‌شد.
این نگاه اجازه می‌داد دو سؤال جدا بپرسیم: از میان پیام‌های ممکن، چه مقدار اطلاعات برای تشخیص پیام انتخاب‌شده لازم است؟ و کانالی که نویز دارد با چه سرعتی می‌تواند این اطلاعات را منتقل کند؟ پاسخ به هر دو، به آمار پیام و ویژگی مسیر بستگی دارد. خود مقالهٔ شنون این اجزا و پرسش‌ها را صورت‌بندی می‌کند.
بیت و آنتروپی یعنی چه؟
برای نزدیک‌شدن به ایده، یک سکهٔ سالم را تصور کنید. پیش از پرتاب، دو نتیجهٔ هم‌احتمال داریم؛ دیدن نتیجه یک بیت از عدم قطعیت را برطرف می‌کند. اگر سکه تقریباً همیشه یک رو بیاید، نتیجهٔ پرتاب معمولاً کمتر غافلگیرکننده است و مقدار متوسط اطلاعات آن هم کمتر می‌شود. نظریهٔ شنون همین جنس از عدم قطعیت آماری را اندازه می‌گیرد.
چرا گاهی داده را کم می‌کنیم و گاهی به آن اضافه می‌کنیم؟
در فشرده‌سازی، از تکرارها و الگوهای قابل‌پیش‌بینی استفاده می‌کنیم تا برای نمایش همان پیام به بیت‌های کمتری نیاز باشد. اما هنگام عبور از کانالی که ممکن است بیت‌ها را خراب کند، گاهی افزونگیِ حساب‌شده اضافه می‌کنیم تا گیرنده خطا را تشخیص دهد یا اصلاح کند. پس کم‌کردن و اضافه‌کردن داده، دو هدف متفاوت دارند.
شنون نشان داد هر کانال، با پهنای باند و نویز مشخص، حدّی برای نرخ انتقال قابل‌اعتماد دارد. پایین‌تر از این حد، کدگذاری مناسب می‌تواند احتمال خطا را بسیار کم کند؛ بالاتر از آن، افزایش سرعت بدون ازدست‌رفتن اطمینان ممکن نیست. توضیح MIT دربارهٔ حدّ شنون این نتیجه را با نمونهٔ ارسال داده روی خط تلفن باز می‌کند. اثبات شنون وجود کدهای مناسب را نشان می‌داد؛ ساخت کدهای کارآمد برای دستگاه‌های واقعی، کار نسل‌های بعدی مهندسان شد.
این زبان ریاضی بعدها برای طراحی سامانه‌های ارتباط دیجیتال حیاتی شد. یک جزئیات تاریخی هم هست: شنون در پاورقی مقاله، جان توکی را پیشنهاددهندهٔ واژهٔ «بیت» معرفی می‌کند. سهم خود شنون این بود که بیت و رابطهٔ آن با پیام و کانال را در یک نظریهٔ دقیق به کار گرفت.
یک مرز مهم هم وجود دارد: شنون معنای پیام، درستی آن یا ارزشش برای مخاطب را به یک عدد تبدیل نکرد. خودش در آغاز مقاله، جنبه‌های معنایی را بیرون از مسئلهٔ مهندسی ارتباطات می‌گذارد. یک جملهٔ درست و یک جملهٔ نادرست ممکن است از نظر مقدار اطلاعات در این مدل شبیه باشند، در حالی که برای زندگی ما پیامدهای کاملاً متفاوتی دارند.
وقتی شنون سراغ پیش‌بینی حرف بعدی رفت
چند سال بعد، شنون از خطوط تلفن به خودِ زبان برگشت. در پژوهش سال ۱۹۵۱ دربارهٔ پیش‌بینی و آنتروپی متن انگلیسی، از توانایی آدم‌ها برای حدس‌زدن حرف بعدیِ یک متن استفاده کرد تا بفهمد زبان نوشتاری چقدر قابل‌پیش‌بینی است. وقتی بخشی از جمله را دیده‌ایم، همهٔ حرف‌های بعدی به یک اندازه محتمل نیستند؛ همین تفاوت احتمال به سنجش آنتروپی و امکان فشرده‌سازی مربوط می‌شود.
اینجا شباهتی با پرسش مدل‌های زبانی امروز دیده می‌شود: «با دانستن متن قبلی، بعد چه می‌آید؟» این شباهت در صورت مسئله است. سامانه‌های امروزی با داده، روش یادگیری و مقیاسی کاملاً متفاوت ساخته می‌شوند. کار شنون نشان می‌دهد چرا پیش‌بینیِ دنبالهٔ زبان یک پرسش علمی قابل‌اندازه‌گیری است؛ از آن نمی‌شود نتیجه گرفت که او چت‌بات امروزی را طراحی کرده بود.
ذهن بازیگوش، کار جدی
شنون به ساختن هم علاقه داشت. MIT از تک‌چرخ‌سواری او همراه با ژانگولر یاد می‌کند و زندگی‌نامه‌نویسانش در گفت‌وگو با IEEE Spectrum از ترومپت آتش‌افشانش می‌گویند. این روحیهٔ آزمایش‌گر در دستگاهی به نام Theseus هم دیده می‌شد: موشی الکترومکانیکی که در هزارتو راه می‌رفت و پس از یافتن مقصد، مسیر را برای دور بعد به خاطر می‌سپرد. موزهٔ MIT توضیح می‌دهد که مدار رله‌ای زیر صفحه حرکت موش را هدایت می‌کرد. آنچه «یاد می‌گرفت» سازوکار دستگاه بود، نه یک موش زنده.
ماجرای رولت نیز بخشی از همین کنجکاوی بود. شنون با ادوارد ثورپ دستگاهی پوشیدنی برای پیش‌بینی حرکت توپ ساخت. طبق روایت ثورپ در MIT، آن دو ماه‌ها در زیرزمین خانهٔ شنون کار کردند و دستگاه را در اوت ۱۹۶۱ در لاس‌وگاس آزمایش کردند. شنون با کلیدی زیر انگشت پا زمان حرکت توپ را ثبت می‌کرد؛ ثورپ پیش‌بینی را از گوشی داخل گوشش می‌شنید. سیم‌ها گاهی قطع می‌شدند، ولی ثورپ از مزیت آماری حدود ۴۴ درصد در آن آزمایش یاد می‌کند. این عدد، توصیف یک تجربهٔ مشخص است؛ تضمینی برای هر بازی رولت نیست.
علاقهٔ او به ماشین‌های تصمیم‌گیر هم به این آزمایش‌ها محدود نبود. شنون در مقالهٔ «A Chess-Playing Machine» در سال ۱۹۵۰ سراغ این پرسش رفت که چگونه می‌توان برای بازی شطرنج برنامه نوشت. این کارها او را به تاریخ ایده‌های هوش مصنوعی وصل می‌کنند؛ ولی به این معنا نیست که او به‌تنهایی هوش مصنوعی امروز را اختراع کرد.
نام Claude چه ربطی به کلود شنون دارد؟
در گزارش نیویورکر از فرهنگ Anthropic، این نسبت به‌عنوان روایت رایج درون شرکت آمده است: نام Claude تا حدی به کلود شنون اشاره دارد و در عین حال نامی دوستانه به گوش می‌رسد. اطلاعیهٔ رسمی معرفی Claude در سال ۲۰۲۳ دربارهٔ منشأ نام چیزی نمی‌گوید. پس بهتر است این داستان را «روایت گزارش‌شده از نام‌گذاری» بدانیم، نه توضیح رسمی و قطعی شرکت.
این دو کلود را هم نباید یکی گرفت: شنون انسان و پژوهشگر قرن بیستم بود؛ Claude محصول امروزی Anthropic است. اگر می‌خواهید جای Claude را میان دستیارهای دیگر ببینید، راهنمای مقایسهٔ بات‌های هوش مصنوعی به کارتان می‌آید.
چرا هنوز باید شنون را بشناسیم؟
امروز تصویر، صدا و متن را در دستگاه‌هایی می‌بینیم که داده را ذخیره و منتقل می‌کنند. برای فهمیدن اینکه چقدر داده لازم است، چه چیزی در مسیر از دست می‌رود و چگونه می‌شود خطا را مهار کرد، هنوز به پرسش‌هایی برمی‌گردیم که شنون با دقت صورت‌بندی کرد. مدل‌های هوش مصنوعی امروز حاصل کار نسل‌های بسیاری از پژوهشگران‌اند؛ سهم شنون دادن یک زبان ریاضی بنیادی به اطلاعات و ارتباطات بود.
شاید بهترین تصویر از شنون همین باشد: مردی که می‌توانست هم روی تک‌چرخ ژانگولر کند و هم نشان دهد پشت یک تماس تلفنی یا پیام دیجیتال، چه مسئلهٔ ریاضی مشترکی پنهان است. نامش ممکن است در Claude زنده مانده باشد؛ اثر مستندش در شیوه‌ای است که اطلاعات را می‌سنجیم و جابه‌جا می‌کنیم.