وقتی هوش مصنوعی ناگهان از دسترس خارج می گردد؛ درس های حیاتی برای مدیران هوشمند - مجله مهاجر

01

طلوع و افول ناگهانی یک ابزار قدرتمند

شان مک دانل، کارآفرین 43 ساله ساکن انگلستان، به خوبی می داند که توسعه وب سایت های امروزی بدون یاری هوش مصنوعی تقریباً غیرممکن است. او که مدیریت شرکت طراحی وب Kaizen و پلتفرم SaaS مدیریت پسماند Consigns را بر عهده دارد، برای انجام عملیات پیچیده و توسعه نرم افزار به شدت به این ابزارها تکیه نموده است. هفته گذشته، زمانی که اخبار مربوط به توانایی های شگفت انگیز مدل تازه آنتروپیک یعنی Fable فضای مجازی را پر کرد، او مشتاقانه تصمیم گرفت این فناوری را برای بازبینی امنیتی کدهای خود به کار بگیرد. اما این اشتیاق عمر کوتاهی داشت؛ تنها چند ساعت پس از آغاز کار، دسترسی کاربران غیرآمریکایی به این مدل بدون اطلاع قبلی و به دستور دولت ایالات متحده قطع شد.

مک دانل در میانه انجام یک وظیفه حساس بود که با پیغام ناامیدنماینده مدل فعلاً در دسترس نیست روبرو شد. این اتفاق زمانی رخ داد که مدل در حال ایجاد تغییرات کلیدی در معماری کدهای شرکت بود. این تجربه به او یادآوری کرد که حتی پیشرفته ترین محصولات فناوری نیز می توانند به دلایل سیاسی یا امنیتی، در کسری از ثانیه از مدار خارج شوند. اگرچه این موضوع باعث شد روند توسعه پروژه با کندی روبرو شود، اما آمادگی قبلی او مانع از یک فاجعه تمام عیار در کسب و کارش شد.

02

اهمیت داشتن نقشه جایگزین در مدیریت تکنولوژی

این اولین باری نبود که تیم کوچک مک دانل با چالش های فنی ابزارهای هوش مصنوعی روبرو می شد. آن ها قبلاً در کار با مدل های دیگر مانند Opus 4.6 تجربه متوقف شدن کار به علت محدودیت های توکن را داشتند که کدهای آن ها را در وضعیتی آشفته رها نموده بود. با درس گرفتن از آن تجربه، این بار مک دانل هوشمندانه تر عمل کرد. او پیش از آغاز کار با Fable، از خودِ این هوش مصنوعی خواست تا یک راهنما و دستورالعمل جامع برای انجام وظایف بنویسد؛ راهنمایی که به وسیله سایر مدل ها یا توسعه دهندگان انسانی نیز قابل درک و اجرا باشد.

زمانی که دسترسی به مدل اصلی قطع شد، آن ها توانستند وظایف به جای مانده را به مدل های دیگر مانند Codex یا نسخه های دیگر کلود منتقل نمایند. این استراتژی باعث شد تا کوشش های قبلی هدر نرود. مک دانل معتقد است که در دوران فعلی، یک موسس نباید هرگز به یک ابزار واحد وابسته باشد. مستندسازی دقیق فرآیندها در خارج از محیط ابزار هوش مصنوعی، یک سوپاپ اطمینان حیاتی است. او تاکید می نماید که اگر فردا تمام دسترسی ها قطع شود، باید بتوان کدهای موجود را به یک توسعه دهنده انسانی سپرد بدون اینکه رشته کار از دست برود.

03

تحلیل ژئوپلیتیک و امنیت در حوزه هوش مصنوعی

اتفاقی که برای مدل Fable افتاد، ریشه در رقابت های استراتژیک و نگرانی های ملی دارد. دولت ایالات متحده در کوشش است تا با محدود کردن دسترسی های خارجی به مدل های بسیار پیشرفته، توازن میان نوآوری و امنیت ملی را حفظ کند. این یعنی شرکت های فناوری در خارج از مرزهای آمریکا همیشه با ریسک قطع ناگهانی خدمات روبرو هستند. برای تیم های کوچک که با بودجه های محدود و زمان بندی های فشرده فعالیت می نمایند، این عدم قطعیت می تواند بسیار هزینه بر باشد. مک دانل اشاره می نماید که قطع دسترسی باعث شد تکانه و شتاب مثبت تیمش از بین برود و هر دقیقه تاخیر در دنیای رقابتی امروز، به معنای ضرر مالی است.

واقعیت این است که اگر دسترسی به این ابزارها به طور کامل قطع شود، کسب و کارهای مدرن نابود نمی شوند، اما هزینه های آن ها به شدت افزایش می یابد؛ چرا که ناچار خواهند بود به روش های سنتی و استخدام نیروهای انسانی بیشتر روی بیاورند. بنابراین، درک نقاط قوت و ضعف مدل های مختلف و استفاده ترکیبی از آن ها، نه یک انتخاب، بلکه یک ضرورت برای بقا در این زیست بوم است. هوش مصنوعی یک شتاب دهنده فوق العاده است، اما نباید به ستون فقرات غیرقابل جایگزین تبدیل شود که با لرزش آن، کل سازه فرو بریزد.

04

حقایقی درباره تمرکز قدرت در سیلیکون ولی

جالب است بدانید که شرکت هایی مانند آنتروپیک و اوپن ای آی، در حالی که محصولات دنیای عرضه می نمایند، به شدت تحت تاثیر قوانین داخلی ایالات متحده هستند. فرمان های اجرایی مرتبط با هوش مصنوعی که در سال های اخیر صادر شده، به دولت اجازه می دهد در موارد خاص که با امنیت ملی یا زیرساخت های حیاتی مرتبط است، محدودیت های شدیدی اعمال کند. این موضوع باعث شده است که مفهوم حاکمیت دیجیتال برای کشورهای دیگر اهمیت دوچندانی پیدا کند. شرکت های بزرگ اروپایی و آسیایی اکنون در حال سرمایه گذاری بر روی مدل های بومی هستند تا از چنین تکانه های ناگهانی در امان بمانند.

از سوی دیگر، هزینه های پردازشی یا همان توکن ها که در متن به آن اشاره شد، چالش پنهان دیگری است. مدل های قدرتمندتر لزوماً بهینه تر نیستند و گاهی مصرف منابع آن ها چنان بالاست که باعث توقف ناگهانی فرآیند در میانه کار می شود. این یعنی مدیران فنی نه تنها باید نگران مسائل سیاسی باشند، بلکه باید معماری سیستم خود را به گونه ای طراحی نمایند که در برابر محدودیت های فنی مدل ها نیز منعطف باشد. استفاده از مدل های کوچک تر و تخصصی (SLM) به جای مدل های بزرگ (LLM) برای کارهای حساس، یکی از راه چارههایی است که امروزه برای کاهش این ریسک ها پیشنهاد می شود.

سوالات رایج

1. چرا مدل های هوش مصنوعی پیشرفته ناگهان از دسترس بعضی کشورها خارج می شوند؟

این موضوع معمولاً به علت سیاست های کنترل صادرات فناوری های کلیدی به وسیله دولت ها برای حفظ رجحان استراتژیک رخ می دهد. دولت ها نگران هستند که مدل های بسیار قدرتمند در حوزه های نظامی یا سایبری علیه خودشان استفاده شود. بنابراین، محدودیت های جغرافیایی به عنوان ابزاری برای مدیریت ریسک های امنیت ملی اعمال می شود.

2. مفهوم توکن در هوش مصنوعی چیست و چرا باعث اختلال در کار می شود؟

توکن ها واحدهای پایه ای متن هستند که مدل های زبانی برای پردازش و فراوری اطلاعات از آن ها استفاده می نمایند. هر مدل دارای یک پنجره متن محدود است که حداکثر ظرفیت پردازش همزمان آن را مشخص می نماید. اگر حجم کد یا داده های ارسالی از این حد فراتر رود، مدل دچار خطا شده یا پاسخ دهی را متوقف می نماید.

3. چگونه می توان وابستگی به یک مدل خاص هوش مصنوعی را کاهش داد؟

برترین راه چاره استفاده از معماری چندمدلی (Multi-Model Strategy) و استفاده از رابط های برنامه نویسی استاندارد است. با مستندسازی دقیق پرامپت ها و فرآیندها، می توان در صورت احتیاج به سرعت به مدل های رقیب مهاجرت کرد. بعلاوه نگهداری نسخه های پشتیبان از خروجی ها در محیط های مستقل، ریسک از دست رفتن داده ها را به حداقل می رساند.

4. آیا استفاده از هوش مصنوعی برای بازبینی امنیتی کدها (Security Audit) قابل اعتماد است؟

هوش مصنوعی ابزاری عالی برای شناسایی الگوهای آسیب پذیری شناخته شده در حجم وسیعی از کد است. با این حال، به علت احتمال خطای هذیان گویی نباید به تنهایی منبع نهایی تایید امنیت باشد. همیشه باید یک متخصص انسانی خروجی های امنیتی هوش مصنوعی را آنالیز و تایید نهایی کند.

5. نقش توسعه دهندگان انسانی در شرکت های کوچک AI-محور چگونه تغییر نموده است؟

نقش انسان از کدنویسی صرف به مدیریت و نظارت بر ایجنت های هوشمند تغییر یافته است. مهندسان اکنون بیشتر بر روی طراحی معماری، حل مسائل بسیار پیچیده و تضمین کیفیت تمرکز دارند. مهارت در پرامپت نویسی و درک محدودیت های مدل های مختلف، اکنون به یک شایستگی کلیدی تبدیل شده است.

6. تفاوت میان مدل های تخصصی کدنویسی مثل Codex با مدل های عمومی چیست؟

مدل های تخصصی مانند Codex به طور ویژه بر روی میلیاردها خط کد برنامه نویسی آموزش دیده اند و درک عمیق تری از سینتکس و منطق نرم افزار دارند. مدل های عمومی مانند کلود در تحلیل های بصری و متنی قوی تر هستند و می توانند در طراحی رابط کاربری یاری نمایند. استفاده همزمان از هر دو نوع مدل، کارایی توسعه محصول را به حداکثر می رساند.

7. محدودیت های قانونی ایالات متحده برای هوش مصنوعی چه تاثیری بر استارتاپ های دنیای دارد؟

این محدودیت ها باعث ایجاد نوعی نابرابری دیجیتال میان استارتاپ های مستقر در آمریکا و سایر نقاط دنیا می شود. شرکت های خارج از آمریکا ممکن است به آخرین فناوری ها دسترسی نداشته باشند یا دسترسی آن ها ناپایدار باشد. این موضوع منجر به افزایش تمایل برای توسعه یا استفاده از مدل های متن باز (Open Source) شده است.

8. مستندسازی فرآیندهای AI خارج از ابزار به چه معناست؟

این کار شامل ثبت دقیق لاگ ها، ورژن بندی کدها در گیت هاب و ذخیره دستورالعمل های کلیدی در پلتفرم های ابری مستقل است. هدف این است که تاریخچه تعاملات و تصمیمات گرفته شده به وسیله هوش مصنوعی در حافظه شرکت باقی بماند. با این روش، حتی با حذف ابزار، دانش فنی انباشته شده از بین نخواهد رفت.

9. چرا سرعت و تکانه (Momentum) در استارتاپ های کوچک تا این حد حیاتی است؟

استارتاپ های کوچک با منابع محدود رقابت می نمایند و تنها مزیت آن ها نسبت به غول های بازار، سرعت در نوآوری و عرضه به بازار است. هرگونه توقف فنی یا مدیریتی می تواند پنجره فرصت را برای آن ها ببندد و رقبا را پیش بیاندازد. به همین علت، ابزارهای هوش مصنوعی به عنوان کاتالیزور عمل می نمایند و اختلال در آن ها مستقیماً بر بقای استارتاپ تاثیر می گذارد.

جمع بندی نهایی

داستان قطع ناگهانی دسترسی به مدل Fable، زنگ خطری جدی برای تمامی کسب و کارهای مبتنی بر فناوری است. این واقعه به ما می آموزد که هوش مصنوعی علیرغم تمام توانمندی های خیره نماینده اش، یک زیرساخت متزلزل است که تحت تاثیر نوسانات سیاسی و محدودیت های فنی قرار گرفته است. مدیریت هوشمندانه در عصر حاضر، به معنای بهره برداری حداکثری از این ابزارها در کنار حفظ استقلال عملیاتی است. داشتن نقشه جایگزین، استفاده از ترکیب مدل های مختلف و مستندسازی دقیق خارج از محیط هوش مصنوعی، تنها راه محافظت از تداوم کسب و کار است. در نهایت، تکیه بر دانش انسانی برای نظارت و راهنمایی این سیستم ها، مرز میان موفقیت پایدار و شکست ناگهانی را مشخص می نماید.

منبع