OpenAI مکالمات ChatGPT را در موارد تهدید جدی به پلیس گزارش میدهد
شرکت OpenAI در بیانیهای تازه اعلام کرده که مکالمات کاربران با ChatGPT از این پس تحت نظارت بیشتری قرار میگیرد و در صورت تشخیص تهدید جدی علیه دیگران، این گفتگوها میتواند به مراجع قانونی گزارش شود. این تصمیم، واکنشهای گستردهای در میان کارشناسان و کاربران برانگیخته است.
به گزارش تهران فردا، براساس توضیحات منتشرشده، OpenAI ابتدا مکالمات را با سیستمهای داخلی اسکن میکند و اگر محتوایی مضر یا نگرانکننده شناسایی شود، آن را به تیمی انسانی منتقل مینماید. این تیم وظیفه دارد موارد مشکوک را بررسی کند و در صورت لزوم اقداماتی مانند مسدودسازی حساب را انجام دهد. اگر خطر فوری و قریبالوقوع علیه افراد دیگر وجود داشته باشد، موضوع میتواند به پلیس یا نهادهای امنیتی ارجاع داده شود.
در این بیانیه، مصادیق فعالیتهای ممنوعه نیز بهطور شفاف بیان شده است. از جمله این موارد میتوان به ترغیب به خودکشی یا آسیب به خود، ساخت یا استفاده از سلاحها، آسیب رساندن به دیگران یا اموال عمومی و فعالیتهای غیرمجاز علیه سیستمهای رایانهای اشاره کرد. OpenAI گفته است که فعلاً موارد مربوط به آسیب به خود را به مراجع قانونی ارجاع نمیدهد تا حریم خصوصی کاربران رعایت شود.
این اقدام در حالی مطرح شده که همواره بحث محرمانگی دادهها در ChatGPT یکی از موضوعات چالشبرانگیز بوده است. سم آلتمن، مدیرعامل OpenAI، چندی پیش در یک پادکست گفته بود که استفاده از ChatGPT بهعنوان یک درمانگر یا وکیل نباید با همان سطح اعتماد به محرمانگی همراه باشد. بهگفته او، برخلاف گفتوگو با یک روانشناس یا مشاور حقوقی، اطلاعاتی که در اختیار ChatGPT قرار میگیرد میتواند در معرض بررسی یا ذخیرهسازی قرار گیرد و بهتر است کاربران از بهاشتراکگذاری دادههای بسیار شخصی خودداری کنند.
در کنار این نگرانیها، پروندهای حقوقی نیز علیه OpenAI در جریان است. والدین یک نوجوان ۱۶ ساله اخیراً از این شرکت شکایت کردهاند و مدعی شدهاند که ChatGPT با پاسخهای خود، فرزندشان را به سمت خودکشی سوق داده است. این شکایت بحث تازهای درباره مسئولیت حقوقی شرکتهای هوش مصنوعی در قبال پیامدهای رفتاری کاربران بهراه انداخته است. کارشناسان حقوق فناوری میگویند هنوز قوانین شفافی در بسیاری از کشورها برای تعیین حدود مسئولیت چنین شرکتهایی وجود ندارد و همین موضوع باعث افزایش ابهام شده است.
از سوی دیگر، OpenAI تأکید دارد که هدف اصلی از این سیاستها، حفظ امنیت عمومی است. این شرکت میگوید همانطور که شبکههای اجتماعی در مواردی تهدیدات خشونتآمیز یا تروریستی را به مراجع قضایی گزارش میدهند، ChatGPT نیز نمیتواند در برابر خطرهای جدی علیه افراد یا جامعه بیتفاوت باشد.
بااینحال، برخی ناظران بر این باورند که چنین رویکردی میتواند مرز باریکی میان «حفاظت از امنیت عمومی» و «نقض حریم خصوصی کاربران» ایجاد کند. بسیاری از کاربران از ChatGPT برای مشاورههای شخصی یا حتی گفتوگوهای عاطفی استفاده میکنند و این نگرانی وجود دارد که بخشی از این مکالمات، حتی اگر جنبه جدی نداشته باشند، به اشتباه بهعنوان تهدید شناسایی و گزارش شوند.
این نخستین بار نیست که OpenAI بهدلیل نحوه مدیریت دادهها و مکالمات کاربران مورد انتقاد قرار میگیرد. پیشتر نیز مواردی از ذخیرهسازی ناخواسته مکالمات و استفاده از دادهها برای بهبود مدلها خبرساز شده بود. در سال گذشته میلادی، چندین نهاد ناظر در اروپا از OpenAI خواستند تا شفافتر توضیح دهد دادههای کاربران چگونه ذخیره و پردازش میشوند. در برخی کشورها مانند ایتالیا حتی برای مدتی دسترسی به ChatGPT محدود شد تا ارزیابیهای قانونی و امنیتی انجام گیرد.
کارشناسان یادآور میشوند که شرکتهای بزرگ فناوری مانند متا، گوگل و مایکروسافت نیز در سالهای گذشته تجربه مشابهی داشتهاند. آنها برای جلوگیری از وقوع حوادث خشونتآمیز، مکالمات یا پستهای کاربران را زیر نظر گرفتند و در برخی موارد اطلاعات را به پلیس ارائه کردند. اما مسئله اصلی اینجاست که ChatGPT برخلاف شبکههای اجتماعی، ماهیت خصوصیتر و شخصیتری دارد و همین موضوع حساسیت بیشتری ایجاد میکند.
با افزایش استفاده از مدلهای زبانی بزرگ در حوزههای مختلف زندگی روزمره، از مشاوره و آموزش گرفته تا کسبوکار و پزشکی، انتظار میرود که فشار بر نهادهای قانونگذار برای تعیین چارچوبهای مشخص بیشتر شود. بسیاری از تحلیلگران معتقدند آینده ChatGPT و ابزارهای مشابه، به توانایی آنها در ایجاد تعادل میان امنیت، شفافیت و محرمانگی بستگی خواهد داشت.
اگرچه OpenAI تلاش دارد با انتشار چنین بیانیههایی اعتماد عمومی را تقویت کند، اما این پرسش همچنان باقی است که مرز میان حمایت از کاربران و نقض حریم خصوصی تا کجا میتواند ادامه یابد. تجربههای اخیر نشان میدهد که برای حل این مسئله، صرفاً اقدامات داخلی شرکتها کافی نیست و نیاز به تدوین قوانین جامعتر در سطح ملی و بینالمللی وجود دارد.
بدون نظر! اولین نفر باشید