هوش مصنوعی اوپن ای آی در تولید محتوا توهم زد!

مهر: ابزار صوتی به متن هوش مصنوعی OpenAI جملاتی را ایجاد می کند و به متن اضافه می کند که چالش جدیدی ایجاد کرد.

OpenAI یک ابزار رونویسی هوش مصنوعی به نام Wisper راه اندازی کرده است و ادعا می کند که دقت و قدرتی برابر با یک کاربر انسانی دارد.

اما Whisper با یک چالش اساسی روبرو است. به گفته مهندسان نرم افزار، توسعه دهندگان و محققان دانشگاهی، این ابزار ممکن است بخشی از متن یا حتی کل جملات را به تنهایی بنویسد. این کارشناسان بر این باورند که برخی از متون اختراع شده برای این ابزار ممکن است حاوی عبارات نژادپرستانه یا خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.

آنها می گویند که چنین اظهاراتی مشکل ساز است، زیرا این ابزار در بسیاری از صنایع در سراسر جهان برای رونویسی مصاحبه ها، ایجاد رونوشت در مورد فناوری های محبوب مصرف کننده و ایجاد زیرنویس برای فیلم ها استفاده می شود.

حتی نگران کننده تر، عجله مراکز پزشکی برای استفاده از ابزارهای مبتنی بر Whisper برای ثبت مشاوره بیماران با پزشکیان است. با این حال، OpenAI قبلاً هشدار داده است که این ابزار نباید در مناطق پرخطر استفاده شود.

تعیین میزان کامل این مشکل دشوار است، اما محققان و مهندسان گزارش می دهند که اغلب در کار خود با توهمات خلاقانه Whisper مواجه می شوند. به عنوان مثال، محققی در دانشگاه میشیگان در حال انجام مطالعه ای بر روی جلسات عمومی بود و از هر 10 کلیپ صوتی که بررسی کرد، 8 کلیپ حاوی توهمات زمزمه ای بود. پس از آن، او تلاش خود را برای بهبود این مدل هوش مصنوعی آغاز کرد.

یکی از مهندسان یادگیری ماشین همچنین می گوید که بیش از 100 ساعت نمونه از نسخه های ساخته شده توسط Whisper را تجزیه و تحلیل کرده و توهمات این هوش مصنوعی را در حدود نیمی از آنها مشاهده کرده است. محقق سوم همچنین ادعا کرد که هنگام بررسی 26000 متن ایجاد شده با کمک Whisper، تقریباً در هر رونویسی متوجه توهمات این ابزار شده است.

این چالش حتی در رونویسی نمونه های کوتاه با کیفیت صوتی نیز وجود دارد.