مصرف انرژی هوش مصنوعی: واقعیت پشت اعدادی که می‌شنویم

هر بار خبری از مصرف برق هوش مصنوعی منتشر می‌شود، عددی همراهش می‌آید که منبعش گم است. این نوشته سراغ خود اعداد و روش تولیدشان می‌رود.

🍊 تیم نارنگی ⏱ 5 دقیقه مطالعه
ردیف سرورهای یک مرکز داده به‌عنوان نماد مصرف برق پردازش‌های هوش مصنوعی

هر چند وقت یک بار خبری منتشر می‌شود با این مضمون که یک پرسش از هوش مصنوعی چند برابر یک جست‌وجوی معمولی برق می‌خورد. عدد از خبری به خبر دیگر می‌رود، در مسیر بزرگ‌تر می‌شود و کسی به منبع اولش برنمی‌گردد. اغلب هم آن منبع، یک تخمین با فرض‌های محدود بوده است.

سؤال درست این نیست که «چقدر». این است که «چه چیزی، در چه شرایطی، و چه کسی اندازه گرفته». بدون این سه، هر عددی فقط شکلِ دقت را دارد.

اعداد از کجا می‌آیند

سه دسته عدد در گردش است. اول، خوداظهاری شرکت‌های سازنده. گوگل و OpenAI هر دو ارقامی در حد کسری از یک وات‌ساعت برای یک پرسش متنی متوسط اعلام کرده‌اند. این‌ها قابل راستی‌آزمایی مستقل نیستند و معلوم نیست چه چیزهایی در محاسبه آمده و چه چیزهایی نه.

دوم، برآوردهای پژوهشگران بیرونی که از مصرف شناخته‌شده‌ی سخت‌افزار و حدس درباره‌ی تعداد پردازش‌ها به عدد می‌رسند. بازه‌ی خطایشان بزرگ است، چون هیچ‌کس از بیرون نمی‌داند یک درخواست دقیقاً روی چه سخت‌افزاری و با چه بهینه‌سازی‌ای اجرا شده.

سوم، آمار کلان مصرف برق مراکز داده که نهادهای انرژی منتشر می‌کنند. این‌ها قابل اتکاترین دسته‌اند، ولی هوش مصنوعی فقط بخشی از بار مراکز داده است؛ ویدیوی آنلاین، ذخیره‌سازی ابری و بازی هم همان‌جا هستند.

⚠️ عددی که منبعش را نمی‌دانید، نقل نکنید

اگر جایی خواندید «هر تصویر معادل شارژ کامل یک گوشی برق می‌برد»، دنبال منبع اولیه بگردید. چنین مقایسه‌هایی معمولاً از یک مقاله‌ی خاص با فرض‌های خاص بیرون آمده‌اند و بعد بدون قید و شرط تکرار شده‌اند. همان دقتی که در اشتباهات رایج کار با هوش مصنوعی درباره‌ی آمار توصیه کرده‌ایم، اینجا هم لازم است.

آموزش در برابر استفاده

آموزش یک مدل بزرگ، هفته‌ها اجرای هزاران پردازنده‌ی گرافیکی است — سنگین، پرهزینه و یک‌بار. استفاده در مقابل، سبک است ولی میلیاردها بار تکرار می‌شود.

نتیجه‌ی این تقارن این است که برای مدل‌های پرکاربرد، مجموع انرژی مرحله‌ی استفاده در طول عمر مدل از انرژی آموزشش فراتر می‌رود. برای همین بیشتر بهینه‌سازی‌های سال‌های اخیر — مدل‌های کوچک‌تر، پردازش دسته‌ای، حافظه‌ی موقت پاسخ — روی همین مرحله متمرکز شده است. پایه‌ی فنی این تفکیک در مدل‌های هوش مصنوعی چطور کار می‌کنند توضیح داده شده.

کدام کار، چه وزنی

حتی بدون عدد دقیق، ترتیب نسبی روشن و مفید است:

کاروزن نسبیچرا
پرسش متنی کوتاه با مدل سبککمترینمحاسبه‌ی اندک، پاسخ کوتاه
پرسش متنی با مدل استدلالیچند برابرتوکن‌های فکری بیشتری تولید می‌شود
خلاصه‌ی یک سند بلندمتوسطورودی طولانی، خروجی کوتاه
تولید تصویرسنگینده‌ها گام پردازش تصویری
تولید ویدیوسنگین‌ترینهر ثانیه، ده‌ها فریم

همین ترتیب توضیح می‌دهد چرا قیمت تولید ویدیو در هر سرویسی مراتبی بالاتر از متن است. هزینه، بازتاب مستقیم محاسبه است. جزئیاتش در ساخت ویدیو با هوش مصنوعی آمده.

آب: بخشی که کمتر گفته می‌شود

سرورها گرم می‌شوند و باید خنک شوند. در بسیاری از مراکز داده این کار با آب انجام می‌شود و بخشی از آن آب تبخیر می‌شود و برنمی‌گردد. مقدارش به اقلیم و طراحی وابسته است: مرکز داده‌ای در اقلیم سرد با خنک‌کاری هوایی، تقریباً آب مصرف نمی‌کند؛ همان طراحی در منطقه‌ی گرم و خشک، مسئله‌ساز است.

این تفاوت مکانی مهم است. بحث «مصرف آب هوش مصنوعی» وقتی معنی‌دار است که بدانیم کجا. میانگین جهانی در این مورد عدد گمراه‌کننده‌ای است.

از منظر ایران

وقتی از داخل ایران با یک سرویس هوش مصنوعی کار می‌کنید، پردازش روی سرورهای خارج از کشور انجام می‌شود. بار مستقیمی به شبکه‌ی برق داخلی — که تابستان‌ها با ناترازی روبه‌روست — وارد نمی‌شود.

آنچه به شبکه‌ی داخلی فشار می‌آورد، مراکز داده‌ی داخلی است. تجربه‌ی ماینینگ ارز دیجیتال نشان داد بار متمرکز و شبانه‌روزی چه اثری بر شبکه می‌گذارد. اگر قرار باشد پردازش هوش مصنوعی در کشور انجام شود، همان بحث با ابعاد بزرگ‌تر تکرار می‌شود و پاسخش تصمیم زیرساختی است، نه انتخاب کاربر.

مقایسه‌ی منصفانه

مقایسه‌ی «یک پرسش در برابر یک جست‌وجو» گمراه‌کننده است، چون کارکردشان یکی نیست. مقایسه‌ی درست، مقایسه‌ی کارِ انجام‌شده است: اگر یک خلاصه‌ی خودکار جای دو ساعت کار انسانی با لپ‌تاپ روشن و رفت‌وآمد به دفتر را بگیرد، ترازنامه شکل دیگری پیدا می‌کند.

این حرف نه پاک‌شویی است نه دفاع؛ فقط یادآوری اینکه ارقام تک‌بعدی تصمیم‌ساز نیستند. برآوردهای کلان مصرف برق مراکز داده در گزارش انرژی و هوش مصنوعی آژانس بین‌المللی انرژی در دسترس است و برای اتکا، از عددهای دست‌به‌دست‌شده در شبکه‌های اجتماعی به‌مراتب بهتر است.

جمع‌بندی

سه چیز را می‌شود با اطمینان گفت: مصرف مراکز داده در حال رشد است، تولید تصویر و ویدیو مراتبی سنگین‌تر از متن است، و بیشتر اعداد دقیق و جذابی که در خبرها می‌بینید، پشتوانه‌ی مستقل ندارند.

کاری که از دست کاربر برمی‌آید کوچک اما واقعی است: مدل متناسب با کار انتخاب کنید، تولید ویدیو و تصویر با کیفیت بالا را بی‌هدف تکرار نکنید، و پرامپت را دقیق بنویسید تا یک بار جواب بگیرید. تفاوت نسل‌های مدل از این نظر هم در بررسی نسل تازه‌ی مدل‌ها دنبال شده است. برای انتخاب مدل مناسب هر کار، نارنگی خودش این تصمیم را در حالت هوشمند می‌گیرد.

مطالب مرتبط:

پرسش‌های پرتکرار

یک پرسش از هوش مصنوعی چقدر برق می‌برد؟ +
عدد دقیق و مستقلی در دسترس نیست. شرکت‌های سازنده ارقامی در حد کسری از یک وات‌ساعت برای یک پرسش متنی متوسط اعلام کرده‌اند، اما این‌ها خوداظهاری‌اند و مرز محاسبه‌شان روشن نیست. آنچه قطعی است: تولید تصویر و ویدیو مراتبی سنگین‌تر از متن است.
آموزش مدل بیشتر انرژی می‌برد یا استفاده از آن؟ +
آموزش یک‌بار اتفاق می‌افتد و بسیار سنگین است، ولی استفاده میلیاردها بار تکرار می‌شود. برای مدل‌های پرکاربرد، مجموع انرژی مرحله‌ی استفاده در طول عمر مدل از آموزشش فراتر می‌رود. به همین دلیل بحث بهینه‌سازی بیشتر روی استفاده متمرکز شده است.
واقعاً هوش مصنوعی آب مصرف می‌کند؟ +
خنک‌کردن سرورها در بسیاری از مراکز داده با آب انجام می‌شود و بخشی از آن تبخیر می‌شود. مقدارش به اقلیم و طراحی سیستم خنک‌کننده بستگی دارد و بین مراکز مختلف تفاوت زیادی دارد. مسئله در مناطق کم‌آب جدی‌تر است.
استفاده‌ی من از هوش مصنوعی روی برق ایران اثر می‌گذارد؟ +
پردازش روی سرورهای خارج از کشور انجام می‌شود، پس بار مستقیمی به شبکه‌ی برق داخلی وارد نمی‌کند. آنچه به شبکه‌ی داخلی فشار می‌آورد، مراکز داده‌ای است که در خود کشور ساخته و اجرا می‌شوند.
چطور مصرف خودم را کم کنم؟ +
بیشترین اثر از انتخاب درست کار می‌آید: برای کار ساده مدل سبک، و پرهیز از تولید بی‌هدف ویدیو و تصویر با کیفیت بالا. یک پرامپت دقیق که یک بار جواب می‌دهد، از ده بار تکرار مبهم هم ارزان‌تر است و هم کم‌مصرف‌تر.
#مصرف برق هوش مصنوعی #مراکز داده #ردپای کربن #مصرف آب دیتاسنتر #انرژی مدل زبانی
به‌دردِ کسی می‌خورد؟ تلگرام واتساپ
🍊

خواندنش خوب بود — حالا امتحانش کن

هرچه در این صفحه خواندی، همین حالا داخلِ نارنگی قابلِ اجراست. ثبت‌نام با شماره‌ی موبایل، نارنگیِ رایگانِ شروع، بدونِ نیاز به کارت یا تحریم‌شکن.

بدونِ نصب هم کار می‌کند — ولی در اپ سریع‌تر است