هوش مصنوعی می‌تواند موجب تولید و انتشار اخبار جعلی شود
تاریخ انتشار: ۳ دی ۱۴۰۲ | کد خبر: ۳۹۳۵۶۹۲۷
سید سجاد شریعتی با اشاره به «نسبت هوش مصنوعی با فیک نیوز و تحولی که ایجاد می‌کند»، گفت: هر چیزی که به عنوان جنگ ترکیبی، فیک نیوز، هجوم رسانه‌ای و حتی رسانه و زیست بشری می‌شناسیم، با تحولاتی که در سال‌های آینده در هوش مصنوعی رخ می‌دهد، تغییر می‌کند و متحول می‌شود.
به گزارش مهر، میزان تولید و توزیع خبر دروغ با هوش مصنوعی رشد تصاعدی می‌یابد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
شریعتی با تاکید بر اینکه ابتدا باید هوش مصنوعی را بشناسیم، گفت: هوش مصنوعی در سه نسل تعریف می‌شود. نسل اول هوش مصنوعی، هوش مصنوعی محاسباتی و منطقی است که از دهه ۶۰ آغاز شد. این روند تا ۲۰۱۰ در همین حیطه وجود داشت.
مسئول مرکز تحقیقات و آینده پژوهی سازمان سراج افزود: شکل بعدی هوش مصنوعی از ۲۰۱۰ آغاز شد به خاطر تحول در داده‌ها و اینترنت رخ داد. وقتی کلان‌داده فراهم شد، به نسل جدید منتقل شدیم.
هر چند خیلی چیزها وجود دارد که هنوز لمس نکرده‌ایم. باید تعامل با ماشین را بشناسیم و زبان ماشین را درک کنیم و متوجه شویم چگونه حرف ما را می‌شنود و چگونه سوال کنیم که به ما پاسخ بدهند.
وی نسل سوم هوش مصنوعی را AGI یا هوش مصنوعی عام توصیف کرد و گفت: در سراج به این نوع هوش، هوش مدبر یا عقل فعال می‌گوییم که می‌تواند به صورت انفرادی چیزها را یاد بگیرد، رشد کند، توسعه یابد و در پایان خود هوش را تولید کند.
دکتر شریعتی گفت: شبکه عصبی مصنوعی ماشین‌هایی هستند که مانند مغز انسان یاد می‌گیرند.
مسئول مرکز تحقیقات و آینده پژوهی سازمان سراج با اشاره به مدل زبان‌های بزرگ، گفت: این مدل پردازش زبان‌های طبیعی دارد که بررسی می‌کند چگونه انسان‌ها کلمات را کنار هم قرار می‌دهند.
دکتر شریعتی با اعلام اینکه وقتی هوش مصنوعی روی اکوسیستم می‌نشیند، اتفاق اصلی رخ داده است، گفت: هوش مصنوعی می‌تواند بالای اکوسیستم دیجیتال بنشیند و اپلیکیشن‌های مختلف را ارائه دهد.
وی به تشریح ۴ مسیر اصلی و کاربرد هوش مصنوعی در حوزه فیک‌نیوز پرداخت و گفت: دیپ فیک،اتاق پژواک، اتاق محتوا و دستکاری داده، پایه ۴ مسیر اصلی است. این چهار مسیر اصلی‌ترین مسیرهای مساهمت هوش در حوزه خبر جعلی و اطلاعات غلط است.
هر کدام از این ابزارها می‌توانند به تنهایی موج‌های سایبری و رسانه‌ای را در راستای تولید و انتشار اخبار دروغین ایجاد کنند.
مسئول مرکز تحقیقات و آینده پژوهی سازمان سراج گفت: باید از فیک نیوزها تا جایی بترسیم که به جهان دروغین برسیم و دروغ سراسر روابط انسانی را بگیرد.
وی گفت: برجسته‌ترین عملکرد دیپ فیک‌ها علیه سیاستمداران و فضای سیاسی صورت می‌گیرد. اما بیشتر زمانی خطرناک‌تر می‌شود که به تولید فضای جعل و دروغ در جامعه وارد شود. در این صورت باید بترسیم که کلاهبرداری‌ها اتفاق بیفتد، فیلم بسازند و روابط انسان‌ها را تخریب کنند.
وی با اعلام اینکه برای مقابله با این چالش‌ها، باید به راهکار اندیشید، گفت: ما برای شناسایی و جلوگیری از اخبار جعلی، از ابزارهای هوش مصنوعی استفاده می‌کنیم.
ما می‌توانیم با تحلیل داده‌ها، محتوا، منبع و مخاطب اخبار، میزان صحت و اعتبار آنها را سنجیده و به مخاطبان اطلاع دهیم. ما همچنین می‌توانیم با آموزش و افزایش سواد فضای مجازی، مردم را قادر به تشخیص و انتقاد از اخبار جعلی کنیم.
کانال عصر ایران در تلگراممنبع: عصر ایران
کلیدواژه: هوش مصنوعی اخبار جعلی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.asriran.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «عصر ایران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۳۵۶۹۲۷ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
آمادگی هند برای تولید کتاب‌های صوتی با هوش مصنوعی
به نظر می‌رسد «راوی هوش مصنوعی» موضوعی مرتبط با ایالات متحده آمریکا یا اروپا محور به نظر برسد، اما کتاب‌های دیجیتال یا روایت شده با هوش مصنوعی ممکن است از لپ‌تاپ‌ها و تلفن‌های هوشمند هندی‌ها دور نباشند.
به گزارش ایرنا از ستاد خبری سی‌وپنجمین نمایشگاه بین‌المللی کتاب تهران، هندوستان در این دوره از نمایشگاه به عنوان مهمان ویژه قرار است صنعت نشر خود را به ایرانیان معرفی کند. جریان نشر در هندوستان به دلیل وجود زبان‌های بومی گوناگون از تنوع خاصی برخوردار است. هندوستان به دلیل پیشینه تاریخی و همچنین روابط فرهنگی‌اش با ایران محتوای بسیاری برای ارائه به ایرانیان دارد. اما این صنعت اکنون در حوزه تکنولوژی نیز در حال آزمودن ایده‌هایی است که می‌تواند برای ایرانیان کارآیی داشته باشد. متنی که در ادامه می‌خوانید، با ترجمه و تالیف مارال توکلی یکی از این ایده‌ها را معرفی می‌کند:
صنعت نشر هند امکانات تولید کتاب‌های صوتی هوش مصنوعی را بررسی می‌کند. ناشران آماده حضور در این عرصه هستند، اما صداپیشگان و خوانندگان تردید دارند.
مدیسون مردی را توصیف می‌کند که به یک منظره زیبا نگاه می‌کند. صدای آهسته و بافت‌دار مدیسون هنگام توصیف آن منظره دلفریب بالا و پایین می‌شود. او کمی مکث می‌کند تا کمی تعلیق ایجاد شود، سپس وارد نقطه اوج می‌شود.
مدیسون یک انسان نیست، بلکه یک «راوی دیجیتال» است که Apple Books به‌طور خاص برای ژانرهای داستانی و عاشقانه ایجاد کرده است. برخی دیگر از راویان دیجیتالی موجود در این فهرست عبارتند از «جکسون» معمولی و دوستانه، «هلنا» سخت و ترسناک و «میچل» خشک اما استادانه.
اپل بوکز در وب‌سایتش، راوی‌های دیجیتالی خود را به عنوان راهی برای کمک به نویسندگان مستقل و نویسندگانی که آثارشان توسط ناشران کوچک‌تر منتشر شده، پیشنهاد می‌کند، چرا که با موانعی مانند سردرگمی فنی و هزینه‌های بالا مواجه نمی‌شوند.
وقتی این خبر در جامعه صداپیشگی پخش شد، واکنش‌های منفی بسیاری را برانگیخت، حتی زمانی که اپل بوکز به خوانندگان اطمینان داد که «به رشد فهرست کتاب‌های صوتی با روایت انسان ادامه خواهد داد.»
به نظر می‌رسد «راوی هوش مصنوعی» موضوعی مرتبط با ایالات متحده آمریکا یا اروپا محور به‌نظر برسد، اما کتاب‌های دیجیتال یا روایت شده با هوش مصنوعی ممکن است از لپ‌تاپ‌ها و تلفن‌های هوشمند هندی‌ها دور نباشند.
آنانت پادمانابهان؛ مدیرعامل «هارپر کالینز» هند، گفته است که آنها درحال حاضر درحال «نمونه‌گیری» از راویان هوش مصنوعی برای کتاب‌های صوتی هستند، اما هنوز صدایی که دوست داشته باشند پیدا نکرده‌اند. او معتقد است که هوش مصنوعی می‌تواند به تولید کتاب‌های صوتی بیشتر و صرفه‌جویی در زمان کمک کند.
پادمانابهان گفت: «می‌توانم به شما بگویم، شما تفاوت خوانش توسط هوش مصنوعی و انسان را نمی‌دانید.» «این جایی است که به آن می‌رسد تا زمانی به شما بگویم که این توسط هوش مصنوعی روایت شده است» (یا) «این روایت انسان است»، فکر نمی‌کنم متوجه شوید. در روایت‌های غیرداستانی و جاهای دیگر، فکر نمی‌کنم مهم باشد. فکر می‌کنم در داستان‌ها مهم است که روایت کجا مکث می‌کند، جایی که راوی چیزهای بیشتری را به ارمغان می‌آورد.»
وی افزود که راوی‌های هوش مصنوعی انتشار سریع‌تر کتاب‌های ترجمه شده را نیز امکان‌پذیر می‌کنند.
هند برای تولید کتاب‌های صوتی با هوش مصنوعی آماده می‌شود
نویسندگان چه فکری می‌کنند؟
خوانندگان و نویسندگان نگران پیامدهای اجتماعی جریان اصلی کتاب‌های روایت شده توسط هوش مصنوعی هستند و صداپیشگان فرصت‌های شغلی را از دست می‌دهند. متخصصان همچنین می‌ترسند که کتاب‌های صوتی که قبلا توسط آنها روایت شده است، بدون رضایت آنها برای آموزش ابزارهای هوش مصنوعی که می‌تواند جایگزین آنها شود، استفاده شود.
با درنظر گرفتن این موضوع، آیا خوانندگان و نویسندگان هندی از کتاب‌های روایت شده توسط هوش مصنوعی حمایت می‌کنند؟
میمی موندال، نویسنده هندی داستان‌های علمی تخیلی و فانتزی، گفت که از مفهوم کتاب‌های روایت شده با هوش مصنوعی و شکل آینده علمی-تخیلی اطراف او «بسیار هیجان زده» است. با این حال، او اعتراف کرد که اگر جایگزین انسانی وجود داشته باشد، چنین کتاب‌هایی را توصیه یا خریداری نمی‌کند.
ازنظر فنی این تقصیر هوش مصنوعی نیست. فقط این است که ما آن را به چنین دنیای نابرابری می‌آوریم و آن را به وسیله دیگری برای ظلم تبدیل می‌کنیم.
رش سوزان، نویسنده و ویراستار، که کتاب‌ها را در وبلاگ The Book Satchel مرور می‌کند، گفت که به کتاب‌های صوتی زیادی گوش می‌دهد، اما راوی‌های هوش مصنوعی/دیجیتال را «رباتیک و بی جان» می‌داند. او همچنین گفت که با بازبینی کتاب‌هایی که توسط راوی‌های دیجیتال خوانده می‌شود، موافقت نمی‌کند.
سوزان در بیانه‌ای ایمیلی گفت: من راوی دیجیتالی را به اندازه کافی خوب نمی‌دانم که با صداپیشگانی که می‌توانند جزئیات احساسات را از طریق آهنگ و سبک خواندن خود برانگیزند رقابت کنند. بنابراین، نظر کلی من درمورد کتاب تغییر می‌کند. امیدوارم روی این تمرکز کنیم که فناوری جدید چگونه می‌تواند به ما در انجام سریع‌تر و آسان‌تر کمک کند، و به دنبال راه‌هایی نباشیم که در آن کار انسان کم ارزش شده و قابل تعویض باشد.
از منظر یک منتقد، سوزان نگران بود که راوی دیجیتال عاملی است که می‌تواند بر موفقیت یا عدم موفقیت یک کتاب تأثیر بگذارد.
او هشدار داد: «یک کتاب خوب می‌تواند به یک کتاب صوتی متوسط در دست یک راوی بد تبدیل شود.»
موندال همچنین به طنز جایگزینی هوش مصنوعی با نیروی انسانی اشاره کرد و گفت که حتی با ارزان‌تر شدن فرآیندهای تولید و ارزان شدن کتاب‌ها، مردم شغل خود را از دست می‌دهند.
وی اشاره کرد: من می‌توانم ببینم مطبوعات کوچک و نویسندگان به حاشیه رانده شده چگونه می‌توانند از نیروی کار هوش مصنوعی سود ببرند، و من از آنها به خاطر استفاده از این فرصت کینه‌ای ندارم. ما نباید انتظار داشته باشیم که عدالت اجتماعی بر دوش ضعیف‌ترین اعضای جامعه ما بیاید. این نویسندگانی مانند من هستند که می‌توانند درمورد این موضوع موضع بگیرند و حرفه خود را از دست ندهند.
کانال عصر ایران در تلگرام
ام فهد، زن مشهور عراقی کیست و چرا کشته شد؟