5 اشتباه رایج مارکترها در هوش مصنوعی و نحوه جلوگیری از آنها

در اینجا برخی از رایج‌ترین اشتباهاتی که افراد هنگام کار با هوش مصنوعی مرتکب می‌شوند، آورده شده است.

۱. حقایق تأیید نشده تولید شده توسط هوش مصنوعی

ابزارهای هوش مصنوعی اطلاعات تأیید شده را از پایگاه‌های داده معتبر بازیابی نمی‌کنند. در عوض، آنها متن‌های آماری محتمل را بر اساس الگوهای آموخته شده از داده‌های آموزشی پیش‌بینی می‌کنند. وقتی اطلاعات قابل اعتمادی برای استناد ندارند، چیزی تولید می‌کنند که به نظر قابل قبول می‌رسد.

این به عنوان توهم شناخته می‌شود و مرتباً در گردش‌های کاری بازاریابی ظاهر می‌شود. تحلیل رقبا توسط هوش مصنوعی، آمار اندازه بازار، مشخصات محصول و انتساب به منابع نامگذاری شده، همگی مکان‌های رایجی هستند که خطاها در آنها ظاهر می‌شوند. خروجی مانند محتوای خوب تحقیق شده به نظر می‌رسد. اغلب، هیچ سیگنال واضحی وجود ندارد که نشان دهد چیزی اشتباه است.

عواقب به‌کارگیری هوش مصنوعی بدون تأیید کافی می‌تواند قابل توجه باشد. ایر کانادا از نظر قانونی مسئول شناخته شد، زیرا چت‌بات خدمات مشتری آن به یک مسافر اطلاعات نادرستی در مورد سیاست کرایه سوگواری خود داد و با اطمینان اعلام کرد که کرایه می‌تواند به صورت عطف به ماسبق اعمال شود، که با وب‌سایت خود شرکت هواپیمایی در تضاد بود. استدلال شرکت هواپیمایی مبنی بر اینکه چت‌بات باید به عنوان یک نهاد جداگانه در نظر گرفته شود و بنابراین مسئولیتی متوجه آن نیست، توسط دادگاه رد شد. مسئولیت مستقیماً متوجه شرکت بود.

آن پرونده شامل یک چت‌بات در نقش مشتری‌مدار بود، اما همین اصل در مورد محتوای بازاریابی نیز صدق می‌کند. یک روزنامه شیکاگویی فهرستی از کتاب‌های تابستانی را که با استفاده از هوش مصنوعی تولید شده بود، منتشر کرد که شامل عناوین جعلی کتاب‌های منسوب به نویسندگان واقعی بود. این فهرست توسط یک ناشر خارجی تهیه شده بود، اما خوانندگان به طور قابل درکی ناامید شدند.

کری هریسون ، متخصص هوش مصنوعی و نویسنده‌ی متن‌های تبلیغاتی، قانون عملی را به سادگی بیان می‌کند: «همه چیز را از نظر واقعی بررسی کنید. توهمات هوش مصنوعی واقعی هستند و به خوبی نوشته شده‌اند.»

نکات برتر:

• هر خروجی تولید شده توسط هوش مصنوعی را تا زمانی که آن را بررسی نکرده‌اید، به عنوان خروجی تایید نشده در نظر بگیرید.
• قبل از استفاده یا اشتراک‌گذاری محتوا، «تأیید، سپس اعتماد» را در جریان کاری خود قرار دهید
• در مورد هرگونه ادعا یا نقل قول از شخص یا نشریه احتیاط کنید.

۲. تعصب

مدل‌های هوش مصنوعی بر روی مجموعه داده‌های بزرگی که از اینترنت و منابع دیگر جمع‌آوری شده‌اند، آموزش داده می‌شوند و این مجموعه داده‌ها، سوگیری‌های موجود در جهانی که آنها را تولید کرده است را منعکس می‌کنند. این سوگیری در خروجی از بین نمی‌رود. در واقع، بازتولید می‌شود و در برخی موارد، تقویت می‌شود.

در بازاریابی، این موضوع به روش‌هایی بروز می‌کند که به راحتی می‌توان از آنها چشم‌پوشی کرد، از جمله:

• متن تبلیغاتی تولید شده توسط هوش مصنوعی که ناخواسته از زبان انحصاری استفاده می‌کند
• مدل‌های هدف‌گیری مخاطب که به دلیل سوگیری‌های موجود در داده‌های کمپین‌های تاریخی، بخش‌ها را از اولویت خارج یا حذف می‌کنند.
• ابزارهای تولید تصویر که به طور پیش‌فرض گروه‌های جمعیتی خاصی را نشان می‌دهند، مگر اینکه از آنها خواسته شود خروجی‌های متنوع‌تری تولید کنند

برای مثال، مطالعه‌ای که در مجله نیچر منتشر و توسط دانشگاه استنفورد گزارش شده است، نشان می‌دهد که مدل‌های زبانی بزرگ، تعصبات عمیقی علیه زنان مسن در محیط کار دارند. برای بازاریابانی که از هوش مصنوعی برای تولید محتوا، تقسیم‌بندی مخاطبان یا ایجاد جلوه‌های بصری استفاده می‌کنند، این گرایش‌های سیستمی می‌توانند بی‌سروصدا خروجی‌ها را به گونه‌ای شکل دهند که برخلاف اهداف بازاریابی فراگیر عمل کنند.

کری هریسون نشان می‌دهد که چگونه این سوگیری‌ها می‌توانند در ابزارهای تولید تصویر نیز ظاهر شوند، جایی که عباراتی مانند «مدیرعامل پشت میز» اغلب تصاویری ایجاد می‌کنند که منعکس‌کننده فرضیات جمعیتی محدود هستند، مگر اینکه تنوع به صراحت مشخص شود.

نکات برتر:

• خروجی‌های هوش مصنوعی را خنثی فرض نکنید
• متن را از نظر زبان انحصاری بررسی کنید
• منطق هدف‌گذاری را برای انحراف جمعیتی بررسی کنید
• خروجی‌های تصویر را برای فرضیاتی که در نظر می‌گیرند، بررسی کنید
• در نظر بگیرید که از مدل بخواهید خروجی خود را از نظر سوگیری بررسی کند.

۳. اعتماد بیش از حد به هوش مصنوعی

وقتی ابزاری چندین بار خروجی‌های دقیق و مفیدی تولید کرده باشد، تمایل طبیعی انسان به اعتماد بیشتر به آن و بررسی کمتر آن وجود دارد. این به عنوان سوگیری اتوماسیون شناخته می‌شود و یکی از خطرناک‌ترین خطرات در کار با کمک هوش مصنوعی است زیرا به تدریج و اغلب بدون اینکه فرد متوجه شود، توسعه می‌یابد.

شرکت مادر گوگل، آلفابت، تنها در یک روز ۱۰۰ میلیارد دلار از ارزش بازار خود را از دست داد، پس از آنکه ربات چت هوش مصنوعی آن، بارد، در یک ویدیوی تبلیغاتی اطلاعات نادرستی ارائه داد و ادعا کرد که تلسکوپ فضایی جیمز وب اولین تصاویر از یک سیاره خارج از منظومه شمسی ما را گرفته است، بیانیه‌ای که در واقع اشتباه بود. زمینه تبلیغاتی، این خطا را به ویژه پرهزینه کرد، زیرا قبل از اینکه کشف شود، به مخاطبان زیادی رسید.

در زمینه بازاریابی، سوگیری اتوماسیون زمانی خود را نشان می‌دهد که خلاصه‌های کمپین‌های تولید شده توسط هوش مصنوعی، بدون مطالعه وارد گزارش‌های مشتری می‌شوند، زمانی که تحلیل‌های عملکرد تولید شده توسط هوش مصنوعی در جلسات بدون بررسی متقابل با داده‌های پلتفرم ارائه می‌شوند، یا زمانی که توصیه‌های برنامه‌ریزی به دلیل اطمینان از خروجی که آنها را معتبر جلوه می‌دهد، پذیرفته می‌شوند.

به یاد داشته باشید: درست بودن ابزار در ۹۵٪ مواقع، اگر ۵٪ خطاها بررسی نشوند، محافظت کافی نیست.

نکات برتر:

• ایجاد فرآیند راستی‌آزمایی و بررسی کیفیت در گردش‌های کاری
• قبل از امضا، موارد قابل ارائه مانند گزارش‌های مشتری، محتوای منتشر شده و خلاصه‌های کمپین را بررسی کنید.
• از چندین ابزار هوش مصنوعی برای بررسی متقابل خروجی‌های مهم استفاده کنید
• حقایق را از طریق منابع متعدد تأیید کنید

۴. از دست دادن رشته در وظایف گسترده هوش مصنوعی

ابزارهای هوش مصنوعی در یک پنجره مکالمه کار می‌کنند. در تعاملات طولانی‌تر یا پیچیده‌تر، ممکن است دستورالعمل‌ها و اهداف قبلی را فراموش کنند. همچنین ممکن است فرضیات یا جزئیاتی را که شما درخواست نکرده‌اید اضافه کنند و از دستورالعمل اصلی فاصله بگیرند.

این اتفاق اغلب زمانی می‌افتد که یک کار در طول یک جلسه طولانی‌تر به چندین مرحله تقسیم می‌شود، مانند یک خلاصه کمپین که با تحلیل مخاطب شروع می‌شود و سپس به پیام‌رسانی می‌رسد. زمانی که شما در حال کار روی مرحله چهارم یا پنجم هستید، ممکن است هوش مصنوعی بر اساس مجموعه‌ای متفاوت از فرضیات نسبت به فرضیاتی که شما با آنها شروع کرده‌اید، عمل کند.

همچنین در مورد دستورالعمل‌های طولانی‌تر و پیچیده‌تر یا زمانی که دستورالعمل‌ها شامل چندین هدف هستند، این اتفاق می‌افتد. هوش مصنوعی ممکن است به اشتباه عناصر خاصی را نسبت به سایرین اولویت‌بندی کند، یا دستورالعمل‌ها را به روش‌های غیرمنتظره‌ای ترکیب کند که خروجی‌هایی تولید می‌کند که از نظر فنی به دستورالعمل پاسخ می‌دهند اما منعکس‌کننده آنچه شما درخواست کرده‌اید نیستند.

نکات برتر:

• وظایف پیچیده را به دستورات کوچک‌تر و متمرکز تقسیم کنید
• هنگام تغییر به یک کار یا پروژه متفاوت، مکالمه جدیدی را شروع کنید
• محدودیت‌های کلیدی مانند مخاطب، لحن، دستورالعمل‌های برند و اهداف را برای هر وظیفه جدید، دوباره بیان کنید.
• به طور منظم خروجی‌های هوش مصنوعی را با خلاصه اصلی مقایسه کنید تا از همسویی با الزامات اطمینان حاصل شود.

۵. تحویل داده‌هایی که نباید از ساختمان خارج شوند

ابزارهای هوش مصنوعی عمومی، محتوای هر پیام را پردازش می‌کنند. وقتی داده‌های مشتری، ارقام عملکرد کمپین داخلی، اطلاعات مشتری یا استراتژی اختصاصی را در یک ابزار عمومی قرار می‌دهید، آن داده‌ها فراتر از کنترل سازمان شما حرکت می‌کنند. در برخی موارد، ممکن است برای آموزش مدل‌های آینده یا دسترسی به روش‌هایی که پیش‌بینی نکرده‌اید، استفاده شوند.

فراتر از خطرات مربوط به مدیریت داده‌ها، استفاده از ابزارهای تأیید نشده برای کارهای حساس می‌تواند مشکلات مربوط به حاکمیت و انطباق را ایجاد کند و به طور بالقوه سازمان‌ها را در معرض نقض‌هایی مانند چارچوب GDPR قرار دهد . اگر یک ابزار هوش مصنوعی، تجزیه و تحلیل نادرستی از داده‌های مشتری ارائه دهد و آن عدم دقت بر تصمیمات تأثیر بگذارد، مسئولیت آن بر عهده شخص و سازمانی است که از آن ابزار استفاده کرده است.

نکات برتر:

• فقط از ابزارهای هوش مصنوعی تأیید شده استفاده کنید
• هرگز اطلاعات حساس را در ابزارهای عمومی هوش مصنوعی به اشتراک نگذارید
• ناشناس کردن داده‌های مشتری و شخصی
• برای کارهای حساس از پلتفرم‌های سازمانی امن استفاده کنید

این اشتباهات معمولاً نتیجه‌ی خروجی‌های متقاعدکننده‌ی هوش مصنوعی و فشار زمانی هستند، نه بی‌دقتی. خبر خوب این است که می‌توان آنها را از طریق فرآیندها و مدیریت شفاف کاهش داد.

این شامل ایجاد نقاط بازرسی تأیید در گردش‌های کاری، ارائه راهنمایی‌های روشن در مورد اینکه کدام ابزارها باید برای کدام وظایف استفاده شوند، و ایجاد فرهنگی است که اعضای تیم در آن با خیال راحت نگرانی‌های خود را در مورد خروجی‌های تولید شده توسط هوش مصنوعی مطرح کنند.

هوش مصنوعی زمانی بهترین عملکرد را دارد که یک فرد ماهر و دقیق در کنارش باشد تا مسیر را تعیین کند و خروجی را بررسی کند و تصمیماتی را که نیاز به زمینه‌سازی و پاسخگویی دارند، اتخاذ کند.