چرا هوش مصنوعی در ریاضی و حساب کردن ضعیف است
مدلی که متن حقوقی پیچیده را میفهمد، در جمع دو عدد بزرگ اشتباه میکند. ریشهی این خطا کجاست، چه ترفندی دقت را بالا میبرد و کجا باید حساب را کلاً به کد سپرد.
یک مدل زبانی میتواند قرارداد اجارهی چهلصفحهای را بخواند، بند متناقضش را پیدا کند و بگوید کدام شرط به ضرر شماست. همان مدل، اگر از او بخواهید دو عدد ششرقمی را جمع بزند، گاهی عددی تحویل میدهد که رقمهای میانیاش را از خودش ساخته.
این تناقض عجیب بهنظر میرسد ولی نیست. مدل کمهوش نیست؛ کاری که ما اسمش را محاسبه میگذاریم اصلاً آن کاری نیست که او انجام میدهد.
عدد برای مدل، متن است نه مقدار
مدل پیش از هر کاری متن را به تکههایی میشکند که به آنها توکن میگویند. این تکهها لزوماً کلمه یا رقم نیستند، بلکه الگوهای پرتکرار حروفاند. عدد ۱۲۳۴۵۶۷ ممکن است به «۱۲۳» و «۴۵۶» و «۷» بشکند یا جور دیگری؛ بسته به اینکه هر رشته چقدر در دادهی آموزشی دیده شده.
نتیجه این است که مقدار عدد اصلاً به مدل داده نمیشود. ارزش مکانی رقمها — همان یکان و دهگان و صدگان دبستان — در ورودی کدگذاری نشده و مدل باید خودش آن را از دل همین تکهها بازسازی کند. برای اعداد آشنا این بازسازی جواب میدهد؛ برای بقیه نه. این شکستن در توکن چیست و چرا فارسی گرانتر تمام میشود باز شده و پشتش روشهایی مثل کدگذاری زوجبایت نشسته که برای فشرده کردن متن ساخته شده، نه برای نگه داشتن معنای عددی.
مدل حساب نمیکند؛ ادامهی محتمل را حدس میزند
کاری که مدل در هر گام میکند یک چیز است: با توجه به هرچه تا اینجا آمده، محتملترین تکهی بعدی چیست. وقتی مینویسید دو بهعلاوهی دو مساوی، مدل چهار را برمیگرداند نه چون جمع کرده، بلکه چون در متنهای بیشماری بعد از این الگو چهار آمده است.
برای اعداد کوچک این حدس عملاً همیشه درست درمیآید. ولی ۴۸۷۳۶۲ بهعلاوهی ۹۵۴۸۱۷ شاید هیچوقت در هیچ متنی کنار هم نیامده باشند. مدل الگویی برای تقلید ندارد، پس چیزی میسازد که شکل جواب درست را دارد: تعداد رقمها منطقی، ابتدا و انتها اغلب درست، میانه ساختگی. همان مکانیزم توهم هوش مصنوعی است، فقط بهجای منبع جعلی عدد جعلی تحویل میدهد — و عدد جعلی کمتر به چشم میآید.
چرا خواستن «قدمبهقدم» دقت را بالا میبرد
اگر به همان مدل بگویید رقمبهرقم جمع بزند و نقلیها را بنویسد، دقتش محسوس بالا میرود. دلیلش ساده است: یک مسئلهی نادر را به مسئلههایی میشکنید که مدل بیشمار بار دیده است. جمع دو عدد ششرقمی نادر است؛ جمع دو رقم تک با یک نقلی نیست. منطق این رفتار در استدلال زنجیرهای باز شده است.
ولی مرزش را بدانید: این کار نرخ خطا را پایین میآورد، صفر نمیکند. هر گام غلط بیسروصدا وارد گام بعدی میشود و تا آخر با جواب میماند. برای یک فهرست کوتاه قابل تحمل است؛ برای یک ستون بلند نه.
راهحل واقعی: کد و ماشینحساب، نه حساب ذهنی مدل
راه درست این نیست که مدل را در حساب کردن بهتر کنیم؛ این است که اصلاً از او حساب نخواهیم. مدل در تبدیل مسئله به دستورالعمل دقیق خوب است؛ اجرای دستورالعمل کار ماشین است. پس بهجای «جمع این ستون چند میشود»، این را بخواهید:
بهجای محاسبهی ذهنی، کد پایتون بنویس و نتیجه را گزارش کن.
داده: فهرست مبالغ فاکتورهای این ماه (پیام بعدی)
خواسته: جمع کل، میانگین، و ردیفهای بالاتر از میانگین
شرط: هیچ عددی را خودت حساب نکن؛ همهی محاسبه داخل کد باشددر سرویسهایی که مفسر کد دارند، همین پرامپت جواب را از حدس به محاسبه میبرد. اگر چنین امکانی ندارید، کد را خودتان اجرا کنید یا همان منطق را به فرمول اکسل تبدیل کنید؛ مسیرش در تحلیل داده و اکسل با هوش مصنوعی آمده و در نارنگی هم میشود امتحانش کرد.
کجا قابل اتکاست و کجا نیست
مرز روشن است: هرجا خروجی نهایی «متن» باشد مدل قوی است؛ هرجا «عدد» باشد ضعیف است.
| کار | وضعیت | دلیل |
|---|---|---|
| نوشتن فرمول اکسل یا کوئری | قابل اتکا | محاسبه را خود اکسل انجام میدهد |
| توضیح مفهوم مثل سود مرکب | قابل اتکا | کار زبانی است، نه عددی |
| تبدیل مسئله به کد پایتون | قابل اتکا | حساب به مفسر منتقل میشود |
| جمع ستون اعداد از روی عکس | ناامن | هم خواندن رقم خطا دارد هم جمع زدن |
| درصد مرکب و سود چندماهه | ناامن | خطای هر گام در گام بعد ضرب میشود |
| تطبیق صورتحساب و ماندهگیری | خطرناک | اختلاف چند ریالی دیده نمیشود |
هشدار جدی برای حسابداری و مالی
در متن، اشتباه کوچک را خواننده میبیند. در عدد، اشتباه سکوت میکند. یک صفر جابهجا در جمع فاکتورهای فصل، از دفتر تا اظهارنامهی ارزش افزوده هیچ نشانهای بروز نمیدهد؛ اولین کسی که میبیندش ممیز مالیاتی است.
هیچ عددی که از حساب ذهنی مدل بیرون آمده باشد نباید وارد اظهارنامهی مالیاتی، فاکتور رسمی یا گزارش سود و زیان شود. مدل برای دستهبندی هزینهها، نوشتن شرح ردیفها و توضیح یک بند قانونی خوب است؛ برای جمع زدن نه. کارهایی که جواب میدهند در هوش مصنوعی برای حسابداران جدا شدهاند. مسئولیت نهایی هر عدد با حسابدار است، نه با ابزار.
بررسی سیثانیهای که خطاهای فاحش را میگیرد
اگر ناچارید به عددی از مدل تکیه کنید، سه کار بکنید. مرتبهی بزرگی را بسنجید: جواب باید چند رقم داشته باشد؟ بعد فقط رقم یکان را ذهنی حساب کنید؛ اگر نخواند، کل عدد غلط است. و همان سؤال را در گفتوگویی تازه بپرسید — اگر دو جواب فرق کردند، هیچکدام قابل اعتماد نیست.
جمعبندی
ضعف مدل در ریاضی باگ نیست که با نسخهی بعدی درست شود؛ نتیجهی مستقیم طرز کار اوست. روی متن آموزش دیده و کاری که بلد است حدس زدن ادامهی متن است. عدد هم برای او فقط متن است.
پس این را قانون خودتان کنید: از مدل فرمول، کد و توضیح بخواهید و عدد نهایی را از ماشین بگیرید. «قدمبهقدم» کمک میکند ولی جای اجرای کد را نمیگیرد. هرجا پول یا سند رسمی وسط باشد، فرض بگذارید عدد بررسینشده غلط است تا خلافش ثابت شود.
برای ادامه:
