چرا شکاف رهبری بعدی فنی نخواهد بود، بلکه اخلاقی خواهد بود

هوش مصنوعی به آرامی از خطی در سازمان‌های مدرن عبور کرده است. دیگر چیزی نیست که توسط تیم‌های نوآوری یا متخصصان داده در حاشیه آزمایش شود. امروزه هوش مصنوعی به تعیین قیمت‌ها، غربالگری نامزدهای شغلی، پیش‌بینی تقاضا و اطلاع‌رسانی تصمیمات سرمایه‌گذاری بلندمدت کمک می‌کند. در بسیاری از شرکت‌ها، بدون شک در حال حاضر بر تفکر سطح هیئت‌مدیره تأثیر می‌گذارد. 

این تغییر اهمیت دارد زیرا هوش مصنوعی با نسل‌های قبلی فناوری متفاوت است. نرم‌افزارهای سنتی دستورالعمل‌های واضحی را که توسط انسان‌ها نوشته شده بود دنبال می‌کردند. هوش مصنوعی، در مقابل، به شکل‌دهی قضاوت کمک می‌کند. گزینه‌ها را پیشنهاد می‌دهد، اولویت‌ها را رتبه‌بندی می‌کند و تصمیمات را در جهات خاصی هدایت می‌کند. این بدان معناست که مسئولیت رهبری در حال تغییر است، خواه سازمان‌ها آن را بپذیرند یا نه.  

به عنوان بنیان‌گذار و مدیر ارشد فناوری یک استارت‌آپ فناوری مبتنی بر هوش مصنوعی، من این تنش را هر روز مشاهده می‌کنم. بسیاری از رهبران احساس می‌کنند که هوش مصنوعی مهم است، اما مطمئن نیستند که چگونه با آن فراتر از عملکرد فنی یا صرفه‌جویی در هزینه‌ها درگیر شوند. چالش واقعی که با آن روبرو هستند، درک فناوری به خودی خود نیست، بلکه درک پیامدهای آن است. 

یکی از رایج‌ترین تصورات غلط در سطوح ارشد این است که هوش مصنوعی خنثی است. 

از آنجا که هوش مصنوعی توسط داده‌ها هدایت می‌شود، اغلب به عنوان عینی یا بی‌طرف توصیف می‌شود. در عمل، اغلب برعکس صادق است. سیستم‌های هوش مصنوعی از داده‌های تاریخی یاد می‌گیرند و تاریخ به ندرت عادلانه است. اگر تصمیمات گذشته منعکس‌کننده نابرابری، طرد یا تفکر کوتاه‌مدت بودند، هوش مصنوعی این الگوها را جذب و تکرار خواهد کرد. اهدافی که برای سیستم‌های هوش مصنوعی تعیین می‌کنیم نیز اهمیت دارد. آنچه به آن‌ها گفته می‌شود که برای آن بهینه‌سازی کنند – چه سرعت، سود یا کارایی – به آرامی ارزش‌ها را در تصمیمات آن‌ها جاسازی می‌کند. 

نتیجه این است که تصمیمات مبتنی بر هوش مصنوعی می‌توانند روی کاغذ منطقی به نظر برسند در حالی که در واقعیت از نظر اخلاقی شکننده هستند. یک سیستم استخدامی ممکن است کارآمد باشد اما فرصت را محدود کند. یک مدل قیمت‌گذاری ممکن است درآمد را به حداکثر برساند در حالی که به اعتماد آسیب می‌زند. وقتی این اتفاق می‌افتد، مسئولیت با الگوریتم نیست، بلکه با رهبری است. 

این یک شکاف حاکمیتی ایجاد می‌کند که بسیاری از سازمان‌ها هنوز آن را پر نکرده‌اند. هوش مصنوعی هنوز اغلب به عنوان یک قابلیت فنی در نظر گرفته می‌شود تا یک بازیگر استراتژیک. نظارت به تیم‌های عملیاتی منتقل می‌شود یا به عنوان یک موضوع آینده به تعویق می‌افتد. در همین حال، سیستم‌های هوش مصنوعی به تأثیرگذاری بر جهت، ریسک و شهرت ادامه می‌دهند بدون اینکه همان سطح دقت اعمال شده بر تصمیمات مالی یا حقوقی را داشته باشند. 

در عین حال، رهبران فشار شدیدی برای حرکت سریع احساس می‌کنند. هوش مصنوعی سرعت، مقیاس و مزیت رقابتی را وعده می‌دهد و ترس از عقب ماندن واقعی است. این یک انتخاب نادرست بین حرکت سریع و عمل مسئولانه ایجاد کرده است. برخی سازمان‌ها با نظارت اندک به جلو می‌روند. برخی دیگر منجمد می‌شوند، تحت‌فشار عدم قطعیت یا مقررات. هیچ کدام از این رویکردها پایدار نیست. 

از دیدگاه من، سازمان‌هایی که پیشرفت می‌کنند آن‌هایی هستند که مدیریت مسئولانه را به عنوان یک مهارت اصلی رهبری در نظر می‌گیرند. حاکمیت مسئولانه هوش مصنوعی در مورد کند کردن نوآوری نیست. بلکه در مورد اطمینان از اینکه نوآوری اعتماد را تقویت می‌کند به جای اینکه به آرامی آن را تضعیف کند. این نیازمند مشارکت رهبری از همان ابتدا است، نه کنترل خسارت پس از اینکه مشکلی رخ داد. 

همچنین نیازمند نوع جدیدی از سواد در رأس سازمان‌هاست. هیئت‌مدیره نیازی به درک نحوه ساخت مدل‌ها یا توانایی نوشتن کد ندارد. اما نیاز دارد که بفهمد هوش مصنوعی چگونه بر تصمیم‌گیری تأثیر می‌گذارد. آن‌ها باید با اطمینان بتوانند سؤالات ساده و عملی بپرسند: این سیستم از چه داده‌ای استفاده می‌کند؟ چه رفتاری را تشویق می‌کند؟ کجا می‌تواند شکست بخورد و اگر این اتفاق بیفتد چه کسی تأثیر آن را احساس خواهد کرد؟ بدون این، هیئت‌مدیره‌ها در معرض خطر تبدیل شدن به مصرف‌کنندگان منفعل خروجی‌های مبتنی بر هوش مصنوعی هستند تا مدیران فعال استراتژی. 

اعتماد به سرعت در حال تبدیل شدن به مزیت رقابتی واقعی است. اکثر مشتریان اهمیتی نمی‌دهند که هوش مصنوعی چگونه کار می‌کند، اما بلافاصله تأثیرات آن را احساس می‌کنند. توصیه‌های نامشخص، قیمت‌گذاری که ناعادلانه به نظر می‌رسد یا تصمیماتی که نمی‌توانند توضیح داده شوند به سرعت اعتماد را فرسایش می‌دهند. زمانی که اعتماد از دست برود، هیچ سطحی از بهبود فنی نمی‌تواند به راحتی آن را بازگرداند. این هدف استراتژی هوش مصنوعی را از کارایی محض به سمت مشروعیت بلندمدت تغییر می‌دهد. 

همین امر در داخل سازمان‌ها نیز صدق می‌کند. هوش مصنوعی در حال تغییر شکل نحوه اندازه‌گیری و ارزش‌گذاری کار است. سیستم‌هایی که برای بهبود بهره‌وری طراحی شده‌اند می‌توانند، در صورت حاکمیت ضعیف، مشارکت انسانی را به معیارهای محدود کاهش دهند و به روحیه، خلاقیت و استقلال آسیب برسانند. این هوش مصنوعی را به یک موضوع انسانی تبدیل می‌کند به همان اندازه که یک موضوع فناوری است. هیئت‌مدیره‌هایی که تأثیر آن را بر فرهنگ نادیده می‌گیرند، در معرض آسیب بلندمدتی هستند که هیچ دستاورد کوتاه‌مدتی نمی‌تواند آن را جبران کند. 

در نهایت، هوش مصنوعی رهبران را مجبور می‌کند با سؤالاتی روبرو شوند که دقیقاً به این دلیل ناراحت‌کننده هستند که فنی نیستند. به چه چیزی ارزش می‌دهیم؟ چه معاوضه‌هایی قابل قبول هستند؟ وقتی ماشین‌ها بر نتایج تأثیر می‌گذارند، چقدر باید شفاف باشیم؟ اینها سؤالات رهبری و حاکمیتی هستند، نه مشکلات مهندسی، و جای آن‌ها محکم در اتاق هیئت‌مدیره است. 

هوش مصنوعی به پیشرفت ادامه خواهد داد. قدرتمندتر، در دسترس‌تر و بیشتر در تصمیمات روزمره جاسازی خواهد شد. این اجتناب‌ناپذیر است. آنچه اجتناب‌ناپذیر نیست نحوه واکنش رهبران است. سازمان‌هایی که موفق می‌شوند آن‌هایی خواهند بود که تشخیص دهند که هوش مصنوعی مسئولیت را حذف نمی‌کند، بلکه آن را متمرکز می‌کند.