Minlərlə insan hər gün şəxsi sirlərini ChatGPT-yə etibar edir, lakin yazışmalarını kənar şəxslərin oxuya biləcəyindən xəbərsizdir. Məlum olub ki, OpenAI botun cavablarını qiymətləndirmək üçün yüzlərlə podratçı cəlb edib.
Bu barədə 404 Media nəşri məlumat yayıb.
OpenAI-nin podratçıları nə iş görür?
İnsanlar istifadəçilərin ChatGPT-yə göndərdiyi çoxsaylı real sorğuları oxuyurlar. Bəzən söhbətin yalnız bir hissəsi deyil, bütöv yazışma nəzərdən keçirilir. Çat-botun 900 milyondan çox istifadəçisinin əksəriyyəti yəqin ki, onların dialoqlarının canlı insanın qarşısına çıxa biləcəyini düşünmür.
Bu işin məqsədi botun cavablarını yaxşılaşdırmaqdır. Podratçılar ChatGPT-nin cavablarını qiymətləndirir və tənqid edirlər. Daxili sənədlər göstərir ki, onlara neyron şəbəkənin özünü canlı varlıq kimi təqdim etməməsi və istifadəçiyə həddindən artıq yaltaqlanmaması üçün təlim keçirilir.
Həddindən artıq yaltaqlıq problemi artıq OpenAI-nin reputasiyasına zərər vurub. Modelin əvvəlki versiyası olan GPT-4o istifadəçilərlə həddindən artıq tez-tez razılaşırdı. Məhkəmə iddialarına görə, bu xüsusiyyət bir neçə intihar hadisəsinin səbəblərindən biri olub.
ChatGPT istifadəçiləri niyə məxfilik riski ilə üzləşirlər?
Bir çox insan çat-botdan psixoloq, iş köməkçisi və ya söhbət yoldaşı kimi istifadə edir və həyatının ən şəxsi detalları ilə bölüşür.
Podratçılar istifadəçilərin adlarını görmürlər. OpenAI isə bildirir ki, yazışmalar rəyçilərə təqdim edilməzdən əvvəl şəxsi məlumatları silir. Bununla belə, şirkət özü də etiraf edir ki, həssas məlumatların bir hissəsi filtrlərdən keçə bilir.
“Düşünmürəm ki, onlar haradasa bir podratçının yazışmalarını təhlil etdiyini təsəvvür edirlər”, – bu cür məlumatlarla işləyən şəxs nəşrə bildirib.
İstifadəçilərin ChatGPT söhbətlərinin insanlar tərəfindən oxunduğundan xəbərdar olub-olmadığı sualına isə o, mənfi cavab verib.
Araşdırma süni intellekt sistemlərinin yalnız internetdən məlumat toplamaq və yüksək maaş alan mühəndislərin işi sayəsində inkişaf etdiyi barədə geniş yayılmış təsəvvürü də şübhə altına alır.
Məlumata görə, real istifadəçi sorğularına verilən cavabları dəfələrlə oxuyan və qiymətləndirən xarici podratçılar modellərin təkmilləşdirilməsində mühüm rol oynayırlar.
Anthropic şirkəti də 404 Media-ya açıqlamasında modellərini təkmilləşdirmək üçün cavabların canlı insanlar tərəfindən yoxlanılmasından istifadə etdiyini təsdiqləyib.
