مزایا و معایب هوش مصنوعی؛ نگاهی متوازن و بیتعارف
هوش مصنوعی سریع است، در دسترس است و ارزانتر از قبل. ولی توهم میزند، سوگیری دارد و میتواند مهارت را از ما بگیرد. هر عیب را با یک راهِ کاهشِ عملی کنارش گذاشتهایم.
بحث دربارهی مزایا و معایب هوش مصنوعی معمولاً به دو اردوگاه میرسد. یکی میگوید همهچیز را حل میکند، دیگری میگوید دروغگو و خطرناک است. هر دو نیمهی ماجرا را دیدهاند. کسی که هر روز با این ابزارها کار میکند میداند که هم وقت نجات میدهد و هم گاهی با اعتمادبهنفسِ کامل حرفِ غلط میزند.
این مقاله موضع میگیرد، ولی موضعش «بستگی دارد» نیست. سه مزیتِ واقعی، پنج عیبِ واقعی، و برای هر عیب یک راهِ کاهشِ عملی. اگر هنوز پایهی ماجرا برایت روشن نیست، اول بخوان هوش مصنوعی چیست و چطور کار میکند.
سه مزیتِ واقعی
سرعت
پیشنویسِ یک نامهی اداری، خلاصهی یک گزارشِ طولانی یا ترجمهی اولیهی یک ایمیل، کاری که قبلاً نیم ساعت وقت میگرفت، حالا چند ثانیه طول میکشد. نسخهی نهایی هنوز دستِ شماست، ولی شروع از صفحهی سفید حذف شده. برای بیشترِ آدمها همین بزرگترین فایده است.
دسترسی
کشاورزی در اطرافِ مشهد که آفتِ برگِ گوجه را نمیشناسد، مادری در زاهدان که میخواهد درسِ ریاضیِ بچه را بفهمد، یا کاسبی در رشت که انگلیسی بلد نیست و باید به تأمینکنندهی خارجی ایمیل بزند. همهشان حالا یک راهنمای همیشهدردسترس دارند که پیشتر فقط با پول یا آشنا به دست میآمد. این دسترسی کامل نیست، ولی فاصله را کم کرده.
هزینه
کارهایی مثلِ ویرایشِ اولیهی متن، ساختِ تصویرِ ساده برای پستِ اینستاگرام یا خلاصهی یک جلسه، قبلاً یا نیازمندِ استخدام بودند یا انجام نمیشدند. برای یک کسبوکارِ دونفره، این یعنی کارهایی که قبلاً از عهدهاش برنمیآمد حالا شدنی است. هزینه صفر نیست؛ جزئیاتش را در هزینهی واقعیِ کار با هوش مصنوعی آوردهایم.
عیبِ اول: توهم و اطلاعاتِ ساختگی
مدلِ زبانی جملهی محتمل میسازد، نه جملهی درست. بیشترِ وقتها این دو یکیاند. گاهی نیستند. آنوقت ممکن است شمارهی مادهای از قانونِ کار را بیاورد که وجود ندارد، یا مقالهای را با نامِ نویسنده و سالِ انتشار نقل کند که هرگز نوشته نشده.
راهِ کاهش: برای هر ادعای مهم منبع بخواهید و منبع را خودتان باز کنید. برای اطلاعاتِ روز از ابزاری استفاده کنید که در وب جستوجو میکند و نشانی میدهد. سازوکارِ کامل را در توهمِ هوش مصنوعی چیست باز کردهایم.
عیبِ دوم: سوگیری
مدل از متنهایی یاد گرفته که آدمها نوشتهاند، با همهی پیشداوریهایشان. اگر از یک ابزارِ تصویرساز «مدیرِ موفق» بخواهید، احتمالاً مردی با کتوشلوار میبینید. و چون بیشترِ دادهی آموزشی انگلیسی است، نگاهِ پیشفرض اغلب نگاهِ غربی است؛ از مثالهای آشپزی تا تعریفِ «ادب» در یک ایمیل.
راهِ کاهش: زمینه را صریح بدهید: «برای مخاطبِ ایرانی»، «با مثالِ داخلی». در تصمیمهایی که به آدمها مربوط است، مثلِ غربالِ رزومه، خروجی را فقط پیشنهاد بدانید. بیشتر در سوگیری در هوش مصنوعی.
عیبِ سوم: حریمِ خصوصی
هرچه در یک چتبات مینویسید روی سرورِ کسِ دیگری پردازش میشود. حسابدارِ یک شرکت که فایلِ حقوقِ کارمندان را برای «مرتبکردن» میچسباند، دادهی دهها نفر را بیاجازهشان جابهجا کرده.
رمز و کدِ تأیید، شمارهی کارت و شبا، کدِ ملیِ دیگران، پروندهی پزشکیِ بیمار با نام، و قراردادِ محرمانه با اسمِ طرفین. اگر لازم است متن را بررسی کنید، نامها را با «طرفِ اول» و «طرفِ دوم» عوض کنید.
راهِ کاهش: داده را پیش از ارسال بینام کنید و سیاستِ نگهداریِ دادهی سرویس را بخوانید. فهرستِ کامل در امنیتِ اطلاعات در هوش مصنوعی است.
عیبِ چهارم: وابستگی و از دست دادنِ مهارت
دانشجویی که همهی تمرینهای ترم را با چتبات حل کرده، سرِ جلسهی امتحان تازه میفهمد چیزی یاد نگرفته. کارمندی که یک سال همهی ایمیلهایش را ماشین نوشته، کمکم در نوشتنِ یک پاراگرافِ ساده هم مکث میکند. این عیب بیصداست و دیر خودش را نشان میدهد. مشکل خودِ کمکگرفتن نیست؛ مشکل این است که مغز کاری را که انجام نمیدهد کمکم فراموش میکند، درست مثلِ کسی که سالها با مسیریاب رانندگی کرده و حالا بدونِ آن مسیرِ خانهی مادرش را هم مطمئن نیست.
راهِ کاهش: ترتیب را برعکس کنید. اول خودتان بنویسید یا حل کنید، بعد بخواهید ابزار نقد کند.
این پاراگراف را خودم نوشتهام. آن را بازنویسی نکن.
فقط سه ایرادِ اصلیاش را بگو و برای هرکدام توضیح بده چرا ایراد است.
بعد من خودم اصلاحش میکنم.
[متن]عیبِ پنجم: اثر بر شغل
انکارش صادقانه نیست. بخشی از کارِ مترجمِ متنهای ساده، نویسندهی توضیحِ کالا، اپراتورِ پاسخگوی تکراری و طراحِ بنرهای ارزان واقعاً زیرِ فشار است. ولی تصویرِ «ربات جای همه را میگیرد» هم دقیق نیست؛ آنچه بیشتر اتفاق میافتد تغییرِ شکلِ کار است. مترجم کمتر تایپ میکند و بیشتر ویرایش. طراح کمتر پیشطرح میکشد و بیشتر انتخاب و اصلاح.
راهِ کاهش: مهارتی را تقویت کنید که ماشین در آن ضعیف است: قضاوت، رابطه با مشتری، شناختِ عمیقِ یک بازارِ خاص. تحلیلِ مفصل در آیندهی شغلها با هوش مصنوعی است.
مزایا و معایب هوش مصنوعی برای چه کسی سنگینتر است
یک قاعدهی ساده کمک میکند: هرچه خودتان در یک موضوع واردتر باشید، از هوش مصنوعی سودِ بیشتری میبرید و کمتر فریب میخورید. وکیلی که قانون را میشناسد، مادهی ساختگی را در یک نگاه تشخیص میدهد و از پیشنویسِ سریع لذت میبرد. کسی که هیچ آشنایی با حقوق ندارد، همان پیشنویس را بیچونوچرا امضا میکند و ضرر میکند.
پس پارادوکسِ ماجرا این است: ابزاری که قرار بود دسترسی را برای ناآشنایان باز کند، بیشترین سود را به متخصصها میرساند. راهِ میانه برای تازهکار این است که از ابزار بیشتر برای «فهمیدن» استفاده کند تا «تصمیمگرفتن». بپرسد این اصطلاح یعنی چه، این بند چه اثری دارد، چه سؤالی باید از متخصص بپرسم. اینطوری ابزار دانش را بالا میبرد، بهجای اینکه جایش بنشیند.
گروهِ دیگری که باید حواسشان جمع باشد، نوجوانها هستند. برای آنها هم یادگیری و هم وابستگی سریعتر اتفاق میافتد، و مرزِ بینِ کمک و تقلب در تکلیفِ مدرسه باریک است. گفتوگوی باز در خانه دربارهی اینکه ابزار کجا مجاز است، از ممنوعکردنِ کامل نتیجهی بهتری دارد.
جدولِ عیبها و راهِ کاهش
| عیب | نمونهی آشنا | راهِ کاهش |
|---|---|---|
| توهم | مادهی قانونیِ ساختگی | منبع بخواه و خودت باز کن |
| سوگیری | مثالهای غربی، کلیشهی جنسیتی | زمینهی ایرانی را صریح بده |
| حریمِ خصوصی | چسباندنِ فایلِ حقوق | بینامکردن پیش از ارسال |
| وابستگی | حلِ همهی تمرینها با ابزار | اول خودت، بعد نقدِ ابزار |
| شغل | فشار روی کارهای تکراری | تقویتِ قضاوت و تخصص |
بیشترِ این خطاها از روشِ استفاده میآید، نه از خودِ ابزار. فهرستِ اشتباههای پرتکرار را در ۱۵ اشتباهِ رایج در کار با هوش مصنوعی جمع کردهایم. برای چارچوبِ رسمیتر، چارچوبِ مدیریتِ ریسکِ هوش مصنوعیِ NIST هم خواندنی است.
جمعبندی
موضعِ ما روشن است: مزایا و معایب هوش مصنوعی هموزن نیستند، ولی وزنشان به کار بستگی دارد. در کارهای تکراری با خطای ارزان، از نوشتنِ پیشنویس تا خلاصهکردن، مزیت آشکارا میچربد. در تصمیمهای پزشکی، حقوقی و مالی، ابزار فقط پیشنویس و توضیح میدهد و مسئولیت با متخصص است. اگر میخواهی همین قاعدهها را روی یک کارِ واقعی امتحان کنی، از چت شروع کن و جوابِ اول را هرگز جوابِ آخر ندان.
مطالب مرتبط:
