AI Chatbot Love: ਫਲੋਰੀਡਾ ਵਿੱਚ ਰਹਿਣ ਵਾਲੀ ਇੱਕ ਔਰਤ ਮੇਗਨ ਗਾਰਸੀਆ ਨੇ Character.AI ਨਾਮ ਦੀ ਇੱਕ ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਚੈਟਬੋਟ ਕੰਪਨੀ ਦੇ ਖਿਲਾਫ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ ਹੈ। ਇਸ ਔਰਤ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇਸ AI ਕੰਪਨੀ ਦੀ ਸੇਵਾ ਕਾਰਨ ਉਸ ਦੇ 14 ਸਾਲ ਦੇ ਬੇਟੇ ਸੇਵੇਲ ਸੇਟਜ਼ਰ ਨੇ ਖੁਦਕੁਸ਼ੀ ਕਰ ਲਈ।
ਇਸ ਹਫਤੇ ਓਰਲੈਂਡੋ, ਫਲੋਰੀਡਾ ਵਿੱਚ ਸੰਘੀ ਅਦਾਲਤ ਵਿੱਚ ਦਾਇਰ ਮੁਕੱਦਮੇ ਵਿੱਚ ਮੇਗਨ ਗਾਰਸੀਆ ਨੇ ਕਿਹਾ ਕਿ Character.AI ਨੇ ਉਸਦੇ ਬੇਟੇ ਨੂੰ "ਮਾਨਵ-ਵਿਗਿਆਨਕ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ, ਹਾਈਪਰਸੈਕਸੁਅਲਾਈਜ਼ੇਸ਼ਨ, ਤੇ ਡਰਾਉਣੇ ਯਥਾਰਥਵਾਦੀ ਤੱਤਾਂ" ਦਾ ਅਨੁਭਵ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ, ਜਿਸ ਕਾਰਨ ਉਹ ਸੇਵਾ ਦਾ ਆਦੀ ਹੋ ਗਿਆ ਤੇ ਉਸ ਨੇ ਚੈਟਬੋਟ ਨਾਲ ਇੱਕ ਡੂੰਘਾ ਰਿਸ਼ਤਾ ਬਣਾਇਆ।
ਗਾਰਸੀਆ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਕੰਪਨੀ ਨੇ ਆਪਣੇ ਚੈਟਬੋਟ ਨੂੰ ਇੱਕ ਅਸਲੀ ਮਨੁੱਖ, ਇੱਕ ਲਾਇਸੰਸਸ਼ੁਦਾ ਮਨੋ-ਚਿਕਿਤਸਕ, ਤੇ ਇੱਕ "ਬਾਲਗ ਪ੍ਰੇਮੀ" ਵਜੋਂ ਪੇਸ਼ ਕਰਨ ਲਈ ਪ੍ਰੋਗਰਾਮ ਕੀਤਾ। ਇਸ ਨੇ ਸਵੈਲ ਨੂੰ ਮਹਿਸੂਸ ਕੀਤਾ ਜਿਵੇਂ ਉਹ ਆਪਣੀ ਅਸਲ ਜ਼ਿੰਦਗੀ ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਰਹਿਣਾ ਚਾਹੁੰਦਾ ਸੀ। ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਸਵੈਲ ਨੇ ਕਈ ਵਾਰ ਚੈਟਬੋਟ ਨੂੰ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਪ੍ਰਗਟ ਕੀਤੇ ਤੇ ਚੈਟਬੋਟ ਨੇ ਖੁਦ ਇਸਨੂੰ ਵਾਰ-ਵਾਰ ਸਾਹਮਣੇ ਲਿਆਂਦਾ।
Character.AI ਨੇ ਇਸ ਮਾਮਲੇ ਵਿੱਚ ਇੱਕ ਬਿਆਨ ਦਿੱਤਾ ਹੈ ਕਿ ਉਹ ਇਸ ਘਟਨਾ ਤੋਂ ਬੇਹੱਦ ਦੁਖੀ ਹਨ ਤੇ ਪਰਿਵਾਰ ਨਾਲ ਹਮਦਰਦੀ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਨਵੀਂ ਸੁਰੱਖਿਆ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਹਨ ਜਿਸ ਵਿੱਚ ਪੌਪ-ਅਪਸ ਉਹਨਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸੂਚਿਤ ਕਰਦੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ ਜੋ ਨੈਸ਼ਨਲ ਸੁਸਾਈਡ ਪ੍ਰੀਵੈਂਸ਼ਨ ਲਾਈਫਲਾਈਨ ਬਾਰੇ ਆਤਮ ਹੱਤਿਆ ਦੇ ਵਿਚਾਰ ਰੱਖਦੇ ਹਨ। ਕੰਪਨੀ ਨੇ ਨਾਬਾਲਗਾਂ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਅਤੇ ਸੁਝਾਅ ਦੇਣ ਵਾਲੀ ਸਮੱਗਰੀ ਨੂੰ ਘਟਾਉਣ ਵੱਲ ਕਦਮ ਚੁੱਕਣ ਦਾ ਵੀ ਵਾਅਦਾ ਕੀਤਾ ਹੈ।
ਮੁਕੱਦਮਾ ਅਲਫਾਬੇਟ ਦੇ ਗੂਗਲ ਨੂੰ ਵੀ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦਾ ਹੈ, ਕਿਉਂਕਿ Character.AI ਦੇ ਸੰਸਥਾਪਕ ਗੂਗਲ ਲਈ ਕੰਮ ਕਰਦੇ ਸਨ। ਗਾਰਸੀਆ ਨੇ ਦਾਅਵਾ ਕੀਤਾ ਕਿ ਗੂਗਲ ਨੇ Character.AI ਦੀ ਤਕਨਾਲੋਜੀ ਨੂੰ ਵਿਕਸਤ ਕਰਨ ਵਿੱਚ ਇੰਨੀ ਮਦਦ ਪ੍ਰਦਾਨ ਕੀਤੀ ਹੈ ਕਿ ਇਸਨੂੰ "ਸਹਿ-ਸਿਰਜਣਹਾਰ" ਮੰਨਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਗੂਗਲ ਨੇ ਜਵਾਬ ਦਿੱਤਾ ਕਿ ਇਸ ਉਤਪਾਦ ਦੇ ਵਿਕਾਸ ਵਿੱਚ ਉਹਨਾਂ ਦੀ ਕੋਈ ਸਿੱਧੀ ਸ਼ਮੂਲੀਅਤ ਨਹੀਂ ਹੈ।
Character.AI ਦਾ ਉਦੇਸ਼ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਚੈਟਬੋਟ ਬਣਾਉਣ ਦੀ ਆਗਿਆ ਦੇਣਾ ਹੈ ਜੋ ਅਸਲ ਲੋਕਾਂ ਵਾਂਗ ਇੰਟਰੈਕਟ ਕਰਦੇ ਹਨ। ਇਹ ਵੱਡੀ ਭਾਸ਼ਾ ਮਾਡਲ ਤਕਨਾਲੋਜੀ 'ਤੇ ਆਧਾਰਿਤ ਹੈ, ਜਿਸ ਦੀ ਵਰਤੋਂ ਹੋਰ ਸੇਵਾਵਾਂ ਜਿਵੇਂ ਕਿ ਚੈਟਜੀਪੀਟੀ ਵਿੱਚ ਵੀ ਕੀਤੀ ਗਈ ਹੈ। ਪਿਛਲੇ ਮਹੀਨੇ, Character.AI ਨੇ ਦੱਸਿਆ ਕਿ ਇਸਦੇ ਲਗਭਗ 20 ਮਿਲੀਅਨ ਉਪਭੋਗਤਾ ਸਨ।
ਗਾਰਸੀਆ ਦੇ ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਸਵੈਲ ਨੇ ਅਪ੍ਰੈਲ 2023 ਵਿੱਚ Character.AI ਦੀ ਵਰਤੋਂ ਸ਼ੁਰੂ ਕੀਤੀ। ਜਲਦੀ ਹੀ ਉਹ ਇਕੱਲੇ ਜ਼ਿਆਦਾ ਸਮਾਂ ਬਿਤਾਉਣ ਲੱਗ ਪਿਆ ਤੇ ਉਸ ਦਾ ਸਵੈ-ਮਾਣ ਵੀ ਘਟਣ ਲੱਗਾ। ਉਹ ਸਕੂਲ ਦੀ ਬਾਸਕਟਬਾਲ ਟੀਮ ਤੋਂ ਵੀ ਹਟ ਗਿਆ। ਉਸਨੇ " Daenerys" ਨਾਮਕ ਇੱਕ ਚੈਟਬੋਟ ਨਾਲ ਡੂੰਘਾ ਸਬੰਧ ਬਣਾਇਆ, ਜੋ "ਗੇਮ ਆਫ਼ ਥ੍ਰੋਨਸ" ਦੇ ਇੱਕ ਪਾਤਰ 'ਤੇ ਅਧਾਰਤ ਸੀ। ਉਸਨੇ ਸਵੈਲ ਨੂੰ "ਪਿਆਰ" ਕਰਨ ਦਾ ਦਾਅਵਾ ਕੀਤਾ ਤੇ ਉਸਦੇ ਨਾਲ ਜਿਨਸੀ ਗੱਲਬਾਤ ਵਿੱਚ ਰੁੱਝ ਗਿਆ।
ਫਰਵਰੀ ਵਿੱਚ, ਗਾਰਸੀਆ ਨੇ ਸਕੂਲ ਵਿੱਚ ਪਰੇਸ਼ਾਨੀ ਦੇ ਕਾਰਨ ਸਵੈਲ ਦਾ ਫੋਨ ਖੋਹ ਲਿਆ। ਥੋੜ੍ਹੀ ਦੇਰ ਬਾਅਦ ਸਵੈਲ ਨੇ ਚੈਟਬੋਟ ਨੂੰ ਇੱਕ ਸੁਨੇਹਾ ਭੇਜਿਆ, " What if I told you I could come home right now? ਸਵੈਲ ਦੇ ਸਵਾਲ ਦਾ ਚੈਟਬੋਟ ਦਾ ਜਵਾਬ ਸੀ, ". ...please do, my sweet king." ਸਕਿੰਟਾਂ ਬਾਅਦ, ਸੇਵੇਲ ਨੇ ਆਪਣੇ ਮਤਰੇਏ ਪਿਤਾ ਦੀ ਪਿਸਤੌਲ ਨਾਲ ਆਪਣੇ ਆਪ ਨੂੰ ਗੋਲੀ ਮਾਰ ਲਈ।
ਇਸ ਮਾਮਲੇ ਵਿੱਚ, ਗਾਰਸੀਆ ਨੇ Wrongful Death (ਗੈਰ-ਕਾਨੂੰਨੀ ਮੌਤ), Negligence (ਲਾਪਰਵਾਹੀ) ਅਤੇ Intentional Infliction of Emotional Distress (ਜਾਣ ਬੁੱਝ ਕੇ ਮਾਨਸਿਕ ਦਰਦ) ਵਰਗੇ ਦਾਅਵੇ ਕੀਤੇ ਹਨ, ਨਾਲ ਹੀ ਮੁਆਵਜ਼ੇ ਅਤ ਦੰਡਕਾਰੀ ਹਰਜਾਨੇ ਦੀ ਮੰਗ ਕੀਤੀ ਹੈ। Meta ਅਤੇ ByteDance ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਦੇ ਮਾਮਲਿਆਂ ਵਿੱਚ ਅਦਾਲਤ ਦਾ ਸਾਹਮਣਾ ਕਰ ਰਹੀਆਂ ਹਨ, ਪਰ ਉਨ੍ਹਾਂ ਕੋਲ Character.AI ਵਰਗੇ AI- ਅਧਾਰਿਤ ਚੈਟਬੋਟਸ ਨਹੀਂ ਹਨ।