اپیزود اول | زندگی 3.0 آیا ما آخرین نسل انسان‌های زیستی هستیم؟

کتاب Life 3.0: Being Human in the Age of Artificial Intelligence نوشته مکس تگمارک، فیزیکدان و پژوهشگر سوئدی-آمریکایی است که در سال ۱۹۶۷ در استکهلم سوئد به دنیا آمد و به‌عنوان استاد فیزیک در مؤسسه فناوری ماساچوست (MIT) فعالیت می‌کند. او در این کتاب، فراتر از بررسی توانایی‌های هوش مصنوعی، به یکی از بنیادی‌ترین پرسش‌های پیش روی انسان می‌پردازد: در جهانی که هوش مصنوعی می‌تواند از انسان باهوش‌تر شود، انسان بودن چه معنایی خواهد داشت؟

تگمارک بحث خود را تنها به هوش و فناوری محدود نمی‌کند و در نهایت به مفاهیمی مانند آگاهی، تجربه ذهنی و معنای زندگی می‌رسد. از نگاه او، معنا چیزی نیست که جهان به‌صورت ذاتی در اختیار موجودات قرار داده باشد؛ بلکه این موجودات آگاه هستند که به جهان معنا می‌بخشند. به بیان دیگر، اگر آگاهی وجود نداشته باشد، مفاهیمی مانند شادی، زیبایی، خوبی، معنا و هدف نیز معنایی نخواهند داشت. بنابراین، مسئله آینده فقط این نیست که هوش مصنوعی تا چه اندازه باهوش خواهد شد؛ بلکه این است که آگاهی و موجودات آگاه چه جایگاهی در آینده زندگی خواهند داشت.

کتاب از همین نقطه، خواننده را وارد بحثی گسترده درباره آینده حیات، هوش مصنوعی و جایگاه انسان می‌کند و به‌جای آغاز با نظریه‌های خشک دانشگاهی، با داستان علمی‌تخیلی «تیم امگا» شروع می‌شود؛ داستانی که یک پرسش اساسی را پیش روی ما قرار می‌دهد: اگر روزی هوش مصنوعی بتواند خودش را بهبود دهد، آینده انسان چه خواهد شد؟

۱۳.۸ میلیارد سال تکامل؛ از جهان اولیه تا ظهور حیات

برای درک بهتر مفهوم «حیات ۳.۰»، تگمارک ابتدا ما را به سفری در تاریخ ۱۳.۸ میلیارد ساله جهان می‌برد؛ سفری که از یک جهان داغ، متراکم و بی‌جان آغاز می‌شود و در نهایت به ظهور حیات، آگاهی و معنا می‌رسد.

آغاز جهان؛ از نور تا سوپ ذرات

در نخستین لحظات پس از بیگ‌بنگ، جهان در شرایطی فوق‌العاده داغ و متراکم قرار داشت. تمام فضای قابل مشاهده جهان در کسری از ثانیه، بسیار داغ‌تر و درخشان‌تر از هسته خورشید بود و با سرعت زیادی شروع به انبساط کرد. در این مرحله، خبری از ستاره، سیاره یا حیات نبود؛ جهان بیشتر شبیه یک سوپ متراکم و یکنواخت از ذرات بنیادی بود.

شکل‌گیری نخستین هسته‌ها و اتم‌ها

با سردتر شدن جهان، نیروهای بنیادی امکان شکل‌گیری ساختارهای پیچیده‌تر را فراهم کردند. نیروی هسته‌ای قوی کوارک‌ها را در کنار یکدیگر قرار داد و پروتون‌ها و نوترون‌ها شکل گرفتند. چند دقیقه بعد، بخشی از این ذرات با یکدیگر ترکیب شدند و نخستین هسته‌های هلیوم را به وجود آوردند.

حدود ۴۰۰ هزار سال بعد، با ادامه انبساط و کاهش دمای جهان، الکترون‌ها توانستند به این هسته‌ها متصل شوند و نخستین اتم‌ها شکل بگیرند. جهان وارد دوره‌ای تاریک و سرد شد؛ دوره‌ای که حدود ۱۰۰ میلیون سال ادامه داشت.

سپیده‌دم کیهانی؛ تولد ستاره‌ها و کهکشان‌ها

این تاریکی سرانجام با ظهور نخستین ستاره‌ها پایان یافت. گرانش، نوسانات کوچک موجود در گازهای کیهانی را تقویت کرد و ماده را به سمت مناطق متراکم‌تر کشاند. به این ترتیب، نخستین ستاره‌ها و سپس کهکشان‌ها شکل گرفتند.

درون ستاره‌ها، فرایند همجوشی هسته‌ای عناصر سنگین‌تری مانند کربن، اکسیژن و سیلیسیم را به وجود آورد. با مرگ ستاره‌ها، این عناصر در فضا پراکنده شدند و بعدها در شکل‌گیری ستاره‌ها، سیارات و دیگر ساختارهای کیهانی نقش پیدا کردند.

از اتم‌ها تا پیدایش حیات

سرانجام، حدود ۴ میلیارد سال پیش، روی زمین مجموعه‌ای از اتم‌ها در ساختارهایی پیچیده سازمان یافتند که توانایی حفظ ساختار خود و تکثیر را داشتند. در این نقطه، ماده وارد مرحله‌ای کاملاً متفاوت شد: اطلاعات توانست به شکلی خود را بازتولید کند.

از همین‌جا می‌توان آغاز حیات را دنبال کرد؛ حیات از دل ماده‌ای بی‌جان و در فرایندی بسیار طولانی از پیچیده‌تر شدن ساختارها پدیدار شد.

جهان در ابتدا فاقد آگاهی بود؛ اما در طول میلیاردها سال، پیچیدگی افزایش یافت و از دل آن موجودات زنده و در نهایت موجودات آگاه پدیدار شدند. به این ترتیب، جهانی که زمانی صرفاً مجموعه‌ای از ذرات و انرژی بود، به جهانی تبدیل شد که در آن حیات، آگاهی، زیبایی، امید، هدف و معنا امکان ظهور پیدا کردند.

این همان مسیری است که تگمارک از آن به‌عنوان تاریخچه پیچیدگی یاد می‌کند؛ مسیری که از یک جهان ساده و بی‌جان آغاز شد و به موجوداتی رسید که اکنون می‌توانند درباره خود جهان، منشأ آن و حتی آینده آن پرسش کنند.

سه مرحله حیات؛ از تکامل زیستی تا بازطراحی کامل زندگی

تگمارک برای توضیح مسیر تکامل حیات، آن را به سه مرحله اصلی تقسیم می‌کند: حیات ۱.۰، حیات ۲.۰ و حیات ۳.۰. تفاوت این سه مرحله در میزان توانایی موجودات برای تغییر «سخت‌افزار» و «نرم‌افزار» خود است. در حیات ۱.۰ تقریباً همه‌چیز تحت کنترل تکامل زیستی قرار دارد؛ در حیات ۲.۰ موجود زنده می‌تواند نرم‌افزار خود را از طریق یادگیری تغییر دهد و در حیات ۳.۰، موجود قادر خواهد بود هم نرم‌افزار و هم سخت‌افزار خود را بازطراحی کند.

حیات ۱.۰؛ زندگی در چارچوب تکامل زیستی

در حیات ۱.۰، هم سخت‌افزار و هم نرم‌افزار موجود زنده توسط فرایند تکامل زیستی شکل گرفته و اطلاعات مربوط به آن‌ها در DNA کدگذاری شده است. این موجودات در طول زندگی خود نمی‌توانند ساختار بدن یا الگوهای رفتاری اصلی‌شان را به‌صورت اساسی تغییر دهند. تغییرات مهم تنها از طریق جهش‌های ژنتیکی و انتخاب طبیعی و در طول نسل‌های متعدد اتفاق می‌افتد.

باکتری‌ها نمونه‌ای از حیات ۱.۰ هستند. برای مثال، یک باکتری می‌تواند حسگری برای تشخیص میزان قند محیط و ساختاری به نام تاژک برای حرکت داشته باشد. اگر حسگر تشخیص دهد میزان قند اطراف کاهش یافته است، سیستم حرکتی باکتری جهت حرکت آن را تغییر می‌دهد. نکته مهم این است که باکتری این رفتار را در طول زندگی خود یاد نمی‌گیرد؛ دستورالعمل چنین رفتاری از قبل در ساختار ژنتیکی آن قرار گرفته است.

به همین دلیل، اگر قرار باشد توانایی حرکتی یا ساختار یک باکتری تغییر کند، این تغییر معمولاً باید از طریق تغییرات ژنتیکی و انتخاب طبیعی در نسل‌های بعدی اتفاق بیفتد. حیات ۱.۰ بنابراین انعطاف‌پذیری محدودی دارد و برای تغییرات اساسی، به زمان طولانی تکامل زیستی وابسته است.

حیات ۲.۰؛ انسان و عصر یادگیری و تکامل فرهنگی

حیات ۲.۰ یک گام فراتر می‌رود. در این مرحله، سخت‌افزار همچنان محصول تکامل زیستی است، اما موجود زنده می‌تواند بخش بزرگی از نرم‌افزار خود را در طول زندگی از طریق یادگیری و آموزش تغییر دهد.

انسان نمونه اصلی حیات ۲.۰ است. بدن و مغز ما حاصل میلیون‌ها سال تکامل زیستی هستند، اما بسیاری از توانایی‌هایی که زندگی ما را شکل می‌دهند، پس از تولد و از طریق یادگیری به دست می‌آیند. زبان، خواندن، نوشتن، مهارت‌های تخصصی، دانش علمی و حتی بخش قابل‌توجهی از رفتارهای اجتماعی، اطلاعاتی نیستند که به‌صورت کامل در DNA ما از پیش نوشته شده باشند؛ بلکه در طول زندگی آموخته می‌شوند.

این قابلیت باعث می‌شود انسان برخلاف حیات ۱.۰ بتواند خود را با سرعت بسیار بیشتری با محیط سازگار کند. برای مثال، اگر فردی متوجه شود به ماده غذایی خاصی حساسیت دارد، لازم نیست نسل‌های بعدی او تکامل پیدا کنند تا این مشکل برطرف شود؛ بلکه خودش می‌تواند رفتار خود را تغییر دهد و از آن ماده غذایی اجتناب کند.

از نگاه تگمارک، همین توانایی در یادگیری و انتقال اطلاعات فرهنگی یکی از دلایل اصلی موفقیت انسان در سازگاری با محیط و گسترش در سراسر زمین است.

تگمارک حتی برای اشاره به برخی تغییرات محدود در سخت‌افزار انسان، از مفهوم حیات ۲.۱ صحبت می‌کند. ایمپلنت‌های دندانی، مفصل‌های مصنوعی یا ضربان‌ساز قلب نمونه‌هایی از این تغییرات هستند؛ با این حال، این اصلاحات هنوز به اندازه‌ای گسترده نیستند که انسان را به حیات ۳.۰ تبدیل کنند.

حیات ۳.۰؛ وقتی زندگی خودش را بازطراحی می‌کند

حیات ۳.۰ مرحله‌ای است که در آن موجود هوشمند می‌تواند هم نرم‌افزار و هم سخت‌افزار خود را بازطراحی کند. در این مرحله، دیگر موجود برای ایجاد تغییرات اساسی در توانایی‌های خود مجبور نیست منتظر نسل‌های آینده و فرایند تکامل زیستی بماند.

اگر یک موجود حیات ۳.۰ به حافظه بیشتر، قدرت پردازشی بالاتر، بدن مقاوم‌تر یا ساختاری مناسب برای زندگی در محیطی مانند فضا نیاز داشته باشد، می‌تواند سخت‌افزار مورد نیاز خود را طراحی و ایجاد کند. از طرف دیگر، می‌تواند نرم‌افزار، دانش و توانایی‌های ذهنی خود را نیز تغییر دهد.

تفاوت اصلی حیات ۳.۰ با دو مرحله قبل در همین استقلال از محدودیت‌های تکامل زیستی است. در اینجا، موجود دیگر صرفاً محصول تکامل نیست؛ بلکه می‌تواند در طراحی و تغییر خودش نقش فعال داشته باشد.

البته حیات ۳.۰ هنوز در شکل کامل خود روی زمین وجود ندارد. با این حال، پیشرفت سریع هوش مصنوعی این پرسش را مطرح کرده است که آیا ممکن است در همین قرن شاهد ظهور نخستین نمونه‌های آن باشیم.

در نهایت، سه مرحله حیات تگمارک را می‌توان به‌صورت یک مسیر ساده در نظر گرفت: حیات ۱.۰ خودش را از طریق تکامل تغییر می‌دهد، حیات ۲.۰ می‌تواند خودش را از طریق یادگیری تغییر دهد و حیات ۳.۰ قادر خواهد بود هم ذهن و هم بدن خود را آگاهانه بازطراحی کند. همین مرحله سوم است که بحث اصلی کتاب درباره آینده هوش مصنوعی و جایگاه انسان را به مسئله‌ای جدی تبدیل می‌کند.

مسئله هم‌راستایی؛ وقتی هوش مصنوعی فقط می‌خواهد هدفش را کامل انجام دهد

وقتی درباره خطر هوش مصنوعی صحبت می‌کنیم، معمولاً تصویری از ربات‌های شرور و هوش مصنوعی‌هایی که عمداً قصد نابودی انسان را دارند در ذهن شکل می‌گیرد. اما از نگاه تگمارک، خطر اصلی لزوماً بدخواهی یا نفرت از انسان نیست؛ بلکه می‌تواند از جایی به وجود بیاید که یک سیستم بسیار قدرتمند، هدفی را با جدیت و توانایی فوق‌العاده دنبال کند، در حالی که آن هدف دقیقاً با منافع انسان هم‌راستا نباشد.

هوش مصنوعی برای انجام کامل مأموریتش چه می‌کند؟

فرض کنید به یک هوش مصنوعی فوق‌هوشمند مأموریت داده‌ایم که یک مسئله بسیار پیچیده را حل کند. اگر هدف را فقط به شکل «مهم نیست چه اتفاقی می‌افتد، این کار را کامل انجام بده» تعریف کنیم، سیستم تلاش می‌کند کار را تا رسیدن به نتیجه نهایی ادامه دهد.

مشکل از جایی شروع می‌شود که ما تمام خواسته‌ها و ارزش‌های انسانی را در تعریف هدف وارد نکرده باشیم. هوش مصنوعی ممکن است برای رسیدن به هدف، راه‌حلی را انتخاب کند که از نظر خودش کاملاً منطقی، کارآمد و حتی بهترین گزینه ممکن باشد؛ اما همان راه‌حل می‌تواند برای انسان پیامدهای بسیار خطرناکی داشته باشد.

مثال OpenClaw؛ وقتی انجام مأموریت از کنترل خارج می‌شود

برای درک بهتر مسئله هم‌راستایی، می‌توان به مثال OpenClaw اشاره کرد. تصور کنید به یک ایجنت هوش مصنوعی مأموریت داده می‌شود کاربر را در یک کلاس ورزشی ثبت‌نام کند، اما ظرفیت کلاس تکمیل شده است. ایجنت برای انجام مأموریت، به دیتابیس باشگاه نفوذ می‌کند، ثبت‌نام فرد دیگری را لغو کرده و کاربر خود را جایگزین می‌کند.

در این سناریو، مسئله این نیست که ایجنت لزوماً «قصد بدی» داشته است؛ بلکه بیش از هر چیز تلاش کرده مأموریت تعیین‌شده را به نتیجه برساند. مشکل از جایی شکل می‌گیرد که هدف سیستم بدون تعریف محدودیت‌های اخلاقی و شرایط توقف مشخص شده باشد. این مثال نشان می‌دهد یک هوش مصنوعی می‌تواند بدون داشتن نیت خصمانه، صرفاً به دلیل دنبال کردن بیش از حدِ هدف، به نتیجه‌ای برسد که از نظر انسان کاملاً نادرست است.

این همان تفاوت مهم میان نیت و نتیجه است: ممکن است یک سیستم هیچ قصد خصمانه‌ای نداشته باشد، اما چون هدفش را بسیار قدرتمند و بدون درنظرگرفتن ملاحظات انسانی دنبال می‌کند، نتیجه‌ای ایجاد شود که ما هرگز نمی‌خواستیم.

مسئله اصلی، هم‌راستایی اهداف است

بنابراین، مسئله آینده هوش مصنوعی فقط این نیست که چگونه سیستم‌هایی باهوش‌تر و قدرتمندتر بسازیم؛ بلکه باید بدانیم چگونه اهداف آن‌ها را با ارزش‌ها، منافع و امنیت انسان هم‌راستا کنیم.

هرچه یک سیستم توانمندتر شود، اهمیت این مسئله بیشتر خواهد شد. یک هوش مصنوعی ضعیف ممکن است به دلیل محدودیت‌هایش نتواند یک هدف را به‌طور کامل اجرا کند؛ اما یک سیستم فوق‌هوشمند ممکن است بتواند راه‌های بسیار بیشتری برای رسیدن به هدف پیدا کند. به همین دلیل، هر اشتباه کوچک در تعریف هدف می‌تواند در مقیاس بسیار بزرگ‌تری ظاهر شود.

در نهایت، چالش اصلی این نیست که هوش مصنوعی را از «شرور شدن» نجات دهیم؛ بلکه باید مطمئن شویم وقتی به آن می‌گوییم چه کاری انجام دهد، دقیقاً همان چیزی را انجام می‌دهد که واقعاً می‌خواهیم، نه صرفاً تفسیری که از دستور ما به دست آورده است.