00001010
سرمقاله
با هوش مردن، یا بی‌هوش ماندن؟
۳ دقیقه مطالعه
مطالب این شماره
روشن است که بشر ابزار می‌سازد تا زندگی را آسان‌تر کند، محدودیت‌هایش را کنار بزند و از مرز ناتوانی‌هایش فراتر برود؛ از ساخت چرخ‌ها برای جبران ناتوانی جسم‌مان، هواپیماها برای تحقق رؤیای پرواز گرفته تا پردازنده‌ها برای عبور از محدودیت‌های ذهن خطاپذیرمان. اما امروز، شاید برای نخستین بار، با پرسشی متفاوت روبه‌رو شده‌ایم: چه می‌شود اگر ابزاری بسازیم که نه فقط سریع‌تر و قدرتمندتر، بلکه از خودمان باهوش‌تر باشد؟
از نقطه‌ای سخن می‌گوییم که می‌توان گفت اجتناب‌ناپذیر است و در عین حال بیخ گوش‌مان؛ نقطه‌ای که آن را «» می‌نامند. وضعیتی که در آن، پیشرفت هوش مصنوعی ممکن است از توانایی ما برای درک و مهار آن پیشی بگیرد؛ تا جایی که دیگر ندانیم آن‌چه ساخته‌ایم، به کجا می‌رود و چه مسیری را در پیش می‌گیرد. تصور کنید سامانه‌ای بتواند نسخه‌ای توانمندتر از خود طراحی کند و آن نسخه نیز همین فرایند را تکرار کند. در چنین سناریویی، شاید فاصلۀ میان پیشرفت‌هایی که زمانی به چند نسل نیاز داشتند، به چند سال، چند روز یا حتی کم‌تر کاهش یابد.
البته هنوز نمی‌دانیم چنین آینده‌ای تا چه اندازه محتمل است، چه رسد به این‌که بتوانیم زمان وقوع آن را پیش‌بینی کنیم. اما اهمیت تکینگی فناوری تنها در احتمال وقوعش نیست؛ بلکه در پرسش‌هایی است که همین امروز پیش روی ما قرار می‌دهد و بهتر است برای رویارویی با آن خودمان را آماده کنیم.
ما قرن‌ها هوش و توانایی اندیشیدن را از ویژگی‌های ممتاز انسان دانسته‌ایم؛ واضح است بخش بزرگی از آن‌چه امروز بر زمین ساخته‌ایم، حاصل همین توانایی باشد. فرهنگ، آموزش و حتی تصور ما از ارزش کار انسانی، تا اندازۀ زیادی بر همین تمایز بنا شده است. حال اگر روزی سامانه‌ای بتواند بهتر از ما استدلال کند، کشف کند، بنویسد و بیافریند، چه بر سر این تمایز خواهد آمد؟ آیا باید در تعریف خلاقیت، تخصص و حتی هویت انسانی تجدیدنظر کنیم؟ آیا آن‌چه روزگاری هنر می‌نامیدیم و به آن افتخار می‌کردیم، در جهانی که ماشین‌ها نیز قادر به آفرینش آن هستند، همچنان همان معنا را خواهد داشت؟
شاید پرسش مهم‌تر این نباشد که ماشین‌ها تا چه اندازه به انسان شبیه خواهند شد؛ بلکه این باشد که انسان‌ها در مواجهه با ماشین‌های هوشمند، چگونه تغییر خواهند کرد.
تاریخ نشان داده است که توانایی ساختن یک فناوری، الزاماً به معنای آمادگی فرهنگی و اجتماعی برای پذیرش پیامدهای آن نیست. ما بارها ابزارهایی ساخته‌ایم که توانایی‌مان را افزایش داده‌اند، بی‌آن‌که به همان اندازه در درک مسئولیت ناشی از این قدرت پیشرفت کرده باشیم. ممکن است بتوانیم ماشین‌هایی بسازیم که بهتر از ما فکر کنند، اما هنوز باید بیاموزیم چگونه دربارۀ استفاده از قدرت آن‌ها تصمیم بگیریم.
و شاید طنز ماجرا همین‌جا باشد: ممکن است پیچیده‌ترین مسئله‌ای که بشر با آن روبه‌رو می‌شود، نه طراحی هوشی برتر، بلکه پاسخ به این پرسش باشد که اگر روزی، دیگر باهوش‌ترین موجود روی زمین نباشیم، می‌خواهیم چه کسی باشیم؟
آینده هنوز نوشته نشده است. اما برای نخستین بار، به اجبار باید بپذیریم که نویسندۀ آن، تنها ما نخواهیم بود.
و با این حال، چه می‌توان گفت؟ مگر نه این‌که بشر همواره برای غلبه بر ناتوانی‌هایش ابزار ساخته است؟ شاید هوش مصنوعی نیز چیزی جز عصای دست ما نباشد؛ ابزاری برای پیمودن مسیری که به‌تنهایی از طی کردنش ناتوانیم. اما چه می‌شود اگر همین عصا، روزی چنان قدرتمند شود که دیگر نتوانیم آن را زمین بگذاریم؟ چه می‌شود اگر ابزاری که برای ادامۀ مسیر ساخته‌ایم، سرانجام راه را بر خودمان ببندد؟
شاید همان چیزی که قرار بود ما را از محدودیت‌هایمان رها کند، روزی به عامل نابودی‌مان تبدیل شود یا به قول بیل گیتس:
«آیا ممکن است یک ماشین تصمیم بگیرد که انسان‌ها تهدیدی هستند، نتیجه بگیرد که منافعش با منافع ما متفاوت است، یا به‌سادگی دیگر اهمیتی برای ما قائل نباشد؟»
