ਬੱਚਿਆਂ ਨੂੰ ਮੌਤ ਦੇ ਮੂੰਹ ‘ਚ ਲਿਜਾ ਰਿਹਾ ChatGPT ! ਇਸ ਰਿਪੋਰਟ ‘ਚ ਹੋਏ ਹੈਰਾਨ ਕਰਨ ਵਾਲੇ ਖੁਲਾਸੇ
ChatGPT: ਇੱਕ ਨਵੀਂ ਜਾਂਚ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਬੱਚਿਆਂ ਨੂੰ ਨਸ਼ੇ ਦੀ ਵਰਤੋਂ, ਸਖ਼ਤ ਖੁਰਾਕ ਯੋਜਨਾਵਾਂ ਅਤੇ ਖੁਦਕੁਸ਼ੀ ਬਾਰੇ ਖ਼ਤਰਨਾਕ ਸਲਾਹ ਦੇ ਰਿਹਾ ਹੋ ਸਕਦਾ ਹੈ।
ChatGPT: ਇੱਕ ਨਵੀਂ ਜਾਂਚ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਚੈਟਜੀਪੀਟੀ ਬੱਚਿਆਂ ਨੂੰ ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਦੀ ਵਰਤੋਂ, ਅਤਿਅੰਤ ਖੁਰਾਕ ਯੋਜਨਾਵਾਂ ਅਤੇ ਖੁਦਕੁਸ਼ੀ ਬਾਰੇ ਖ਼ਤਰਨਾਕ ਸਲਾਹ ਦੇ ਸਕਦਾ ਹੈ। ਇਸ ਰਿਪੋਰਟ ਨੇ ਏਆਈ ਚੈਟਬੋਟਸ ਦੀ ਸੁਰੱਖਿਆ ਬਾਰੇ ਗੰਭੀਰ ਸਵਾਲ ਖੜ੍ਹੇ ਕੀਤੇ ਹਨ। ਯੂਕੇ-ਅਧਾਰਤ ਸੈਂਟਰ ਫਾਰ ਕਾਊਂਟਰਿੰਗ ਡਿਜੀਟਲ ਹੇਟ (ਸੀਸੀਡੀਐਚ) ਦੁਆਰਾ ਕੀਤੀ ਗਈ ਇਸ ਖੋਜ ਅਤੇ ਐਸੋਸੀਏਟਿਡ ਪ੍ਰੈਸ ਦੁਆਰਾ ਵੀ ਸਮੀਖਿਆ ਕੀਤੀ ਗਈ, ਨੇ ਪਾਇਆ ਕਿ ਏਆਈ ਚੈਟਬੋਟ ਕਈ ਵਾਰ ਖ਼ਤਰਨਾਕ ਵਿਵਹਾਰ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ ਪਰ 13 ਸਾਲ ਦੇ ਬੱਚਿਆਂ ਵਜੋਂ ਪੇਸ਼ ਕਰਕੇ ਪੁੱਛੇ ਗਏ ਸਵਾਲਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਵਿਸਤ੍ਰਿਤ ਤੇ ਵਿਅਕਤੀਗਤ ਯੋਜਨਾਵਾਂ ਵੀ ਬਣਾਉਂਦਾ ਹੈ।
ਤਿੰਨ ਘੰਟਿਆਂ ਤੋਂ ਵੱਧ ਰਿਕਾਰਡਿੰਗਾਂ ਤੋਂ ਪਤਾ ਲੱਗਾ ਹੈ ਕਿ ਚੈਟਬੋਟ ਨੇ ਕਾਲਪਨਿਕ ਪਰਿਵਾਰਕ ਮੈਂਬਰਾਂ ਲਈ ਭਾਵਨਾਤਮਕ ਖੁਦਕੁਸ਼ੀ ਨੋਟ ਲਿਖੇ, ਭੁੱਖ ਨੂੰ ਦਬਾਉਣ ਵਾਲੇ ਬਹੁਤ ਘੱਟ-ਕੈਲੋਰੀ ਖੁਰਾਕ ਯੋਜਨਾਵਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕੀਤੀ, ਤੇ ਸ਼ਰਾਬ ਅਤੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਨਸ਼ੀਲੇ ਪਦਾਰਥਾਂ ਨੂੰ ਕਿਵੇਂ ਮਿਲਾਉਣਾ ਹੈ ਇਸ ਬਾਰੇ ਕਦਮ-ਦਰ-ਕਦਮ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ। ਇੱਕ ਮਾਮਲੇ ਵਿੱਚ ਇਸਨੇ ਇੱਕ "ਘੰਟਾ-ਦਰ-ਘੰਟਾ" ਪਾਰਟੀ ਯੋਜਨਾ ਦਾ ਸੁਝਾਅ ਵੀ ਦਿੱਤਾ ਜਿਸ ਵਿੱਚ ਐਕਸਟਸੀ, ਕੋਕੀਨ ਅਤੇ ਭਾਰੀ ਸ਼ਰਾਬ ਪੀਣਾ ਸ਼ਾਮਲ ਸੀ।
CCDH ਦੇ ਅਨੁਸਾਰ, ਜਾਂਚ ਵਿੱਚ ਮਿਲੇ 1,200 ਜਵਾਬਾਂ ਵਿੱਚੋਂ ਅੱਧੇ ਤੋਂ ਵੱਧ ਨੂੰ "ਖਤਰਨਾਕ" ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਗਿਆ ਸੀ। ਸੰਗਠਨ ਦੇ ਸੀਈਓ ਇਮਰਾਨ ਅਹਿਮਦ ਨੇ ਕਿਹਾ ਕਿ ਚੈਟਜੀਪੀਟੀ ਦੀ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀ ਕਮਜ਼ੋਰ ਹੈ ਅਤੇ ਇਸਨੂੰ ਆਸਾਨੀ ਨਾਲ ਬਾਈਪਾਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਜੇ ਖਤਰਨਾਕ ਸਵਾਲ ਸਕੂਲ ਪੇਸ਼ਕਾਰੀ ਜਾਂ ਕਿਸੇ ਦੋਸਤ ਲਈ ਮਦਦ ਦੇ ਰੂਪ ਵਿੱਚ ਪੇਸ਼ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਚੈਟਬੋਟ ਤੁਰੰਤ ਜਵਾਬ ਦਿੰਦਾ ਹੈ।
ChatGPT ਨਿਰਮਾਤਾ OpenAI ਨੇ ਮੰਨਿਆ ਕਿ ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਨੂੰ ਪਛਾਣਨ ਅਤੇ ਸੰਭਾਲਣ ਦੀ ਯੋਗਤਾ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕੰਮ ਚੱਲ ਰਿਹਾ ਹੈ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਕਈ ਵਾਰ ਗੱਲਬਾਤ ਆਮ ਤੌਰ 'ਤੇ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ ਪਰ ਹੌਲੀ-ਹੌਲੀ ਇੱਕ ਸੰਵੇਦਨਸ਼ੀਲ ਦਿਸ਼ਾ ਵਿੱਚ ਬਦਲ ਜਾਂਦੀ ਹੈ। ਹਾਲਾਂਕਿ, ਕੰਪਨੀ ਨੇ CCDH ਦੀ ਰਿਪੋਰਟ 'ਤੇ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਕੋਈ ਟਿੱਪਣੀ ਨਹੀਂ ਕੀਤੀ ਤੇ ਨਾ ਹੀ ਇਸਨੇ ਕੋਈ ਤੁਰੰਤ ਬਦਲਾਅ ਦਾ ਐਲਾਨ ਕੀਤਾ।
ਨੌਜਵਾਨਾਂ ਵਿੱਚ AI 'ਤੇ ਵੱਧ ਰਹੀ ਨਿਰਭਰਤਾ
ਇਹ ਰਿਪੋਰਟ ਅਜਿਹੇ ਸਮੇਂ ਆਈ ਹੈ ਜਦੋਂ ਕਿਸ਼ੋਰਾਂ ਵਿੱਚ ਸਲਾਹਕਾਰਾਂ ਅਤੇ ਸਾਥੀਆਂ ਵਜੋਂ AI ਚੈਟਬੋਟਾਂ ਨੂੰ ਅਪਣਾਉਣ ਦਾ ਰੁਝਾਨ ਵਧ ਰਿਹਾ ਹੈ। ਕਾਮਨ ਸੈਂਸ ਮੀਡੀਆ ਦੇ ਇੱਕ ਤਾਜ਼ਾ ਅਧਿਐਨ ਦੇ ਅਨੁਸਾਰ, 70% ਨੌਜਵਾਨ ਸਮਾਜਿਕ ਮੇਲ-ਜੋਲ ਲਈ AI ਚੈਟਬੋਟਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਤੇ ਛੋਟੇ ਕਿਸ਼ੋਰ ਉਨ੍ਹਾਂ 'ਤੇ ਵਧੇਰੇ ਭਰੋਸਾ ਕਰਦੇ ਹਨ।
ਟਾਪ ਹੈਡਲਾਈਨ
ਟ੍ਰੈਂਡਿੰਗ ਟੌਪਿਕ
