Character.AI એ બાળકો ચેટબોટ સાથે વધુ સમય વિતાવતા અને અયોગ્ય કન્ટેન્ટ જોવા અંગે જે ચિંતાઓ વ્યક્ત કરી રહી હતી તેને ધ્યાનમાં રાખીને આ પગલું ભર્યું છે. તાજેતરના મહિનાઓમાં કંપની સામે ઘણા કેસ દાખલ કરવામાં આવ્યા છે. જેમાં આરોપ છે કે, કેટલાક ચેટબોટ્સ અયોગ્ય અથવા નુકસાનકારક પ્રતિસાદ આપે છે.
ટીનેજ યુઝર્સની સુરક્ષાને ધ્યાનમાં રાખીને Character.AI એ પેરેંટલ ઈનસાઈટ્સ નામનું નવું ફીચર લોન્ચ કર્યું છે. આ સુવિધા દ્વારા, કિશોરવયના વપરાશકર્તાઓ તેમના માતાપિતાને સાપ્તાહિક અહેવાલ મોકલી શકશે, જેમાં તેમની ચેટબોટ એકટીવીટીની અવોરવ્યું હશે.
રિપોર્ટ બતાવશે કે, કેટલો સમય વિતાવ્યો હતો, ક્યાં પાત્રો સાથે સૌથી વધુ વાત કરવામાં આવી હતી અને દરેક પાત્ર સાથે કેટલા સમય સુધી ચેટ કરવામાં આવી હતી. જો કે, તેમાં ચેટની સંપૂર્ણ સામગ્રી હશે નહીં, જેથી યુઝર્સની ગોપનીયતા જળવાઈ રહે.
આ ટેક પ્લેટફોર્મે બાળકોની ચિંતાઓને ધ્યાનમાં રાખીને આ પગલું ભરવામાં આવ્યું છે. તેમાં ચેટબોટ્સ સાથે વધુ સમય પસાર કરવા અને ખરાબ સામગ્રી જોવા વિશે જોવામાં આવશે. તાજેતરના મહિનાઓમાં, કંપની સામે ઘણા કેસ દાખલ કરવામાં આવ્યા છે,
જેમાં આરોપ છે કે કેટલાક ચેટબોટ્સ અયોગ્ય ઉપયોગ કરે છે અથવા નુકસાનકારક જવાબો આપ્યા. અહેવાલો અનુસાર, Apple અને Googleએ પ્લેટફોર્મને તેની નીતિ પર કડક બનવાની ચેતવણી પણ આપી હતી.
કંપનીએ ગયા વર્ષથી ટીનેજ યુઝર્સ માટે ઘણા સેફ્ટી અપગ્રેડ કર્યા છે. હવે 15 વર્ષથી ઓછી ઉંમરના યુઝર્સ અલગAI મોડલ પર ખસેડવામાં આવ્યા છે, જે સંવેદનશીલ કન્ટેન્ટથી બચે છે. વધુમાં, પ્લેટફોર્મ પર એક સૂચના પણ આપવામાં આવે છે કે, આ ચેટબોટ્સ વાસ્તવિક માનવો નહીં. પેરેંટલ ઈનસાઈટ્સ સુવિધા સંપૂર્ણપણે વૈકલ્પિક છે અને તેને Character.AI ના સેટિંગ્સમાં સક્રિય કરી શકાય છે.
તેને ઍક્સેસ કરવા માટે માતાપિતાએ એકાઉન્ટ બનાવવાની જરૂર રહેશે નહીં. aI ચેટબોટ્સને લઈને સતત પ્રશ્નો ઉભા થઈ રહ્યા છે અને વિવિધ દેશોમાં નવા નિયમો પણ લાગુ કરવામાં આવી રહ્યા છે.
આવી સ્થિતિમાં, Character.AI ના આ નવા ફીચરને એક પગલું આગળ ગણી શકાય, પરંતુ તે છેલ્લો ફેરફાર નહીં હોય. આવનારા સમયમાં AI કંપનીઓને યુઝર સેફ્ટીને લઈને વધુ કડક નિયમોનો સામનો કરવો પડી શકે છે.
