Context Bombing:
ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕੰਪਨੀ Tracebit ਦੇ ਵਿਗਿਆਨੀਆਂ ਨੇ Prompt Injection ਤੋਂ ਬਚਣ ਦਾ ਇੱਕ ਨਵਾਂ ਤਰੀਕਾ ਖੋਜਿਆ ਹੈ, ਜਿਸਨੂੰ Context Bombing ਕਿਹਾ ਜਾਂਦਾ ਹੈ।
Context Bombing:
ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਅੱਜ ਬਹੁਤ ਉਪਯੋਗੀ ਸਾਬਤ ਹੋ ਰਹੀ ਹੈ। ਇਹ ਲੋਕਾਂ ਦੇ ਕੰਮ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਬਦਲ ਰਹੀ ਹੈ। ਹਾਲਾਂਕਿ, ਇਸ ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਹੁਣ ਸਾਈਬਰ ਅਪਰਾਧ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ। ਹੈਕਰ ਹੁਣ ਲੋਕਾਂ ਨੂੰ ਧੋਖਾ ਦੇਣ ਲਈ ਏਆਈ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ। ਇਸ ਦੇ ਮੱਦੇਨਜ਼ਰ, ਇੱਕ ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਉਭਰ ਕੇ ਸਾਹਮਣੇ ਆਈ ਹੈ ਜੋ ਹੈਕਰਾਂ ਲਈ ਇੱਕ ਸਮੱਸਿਆ ਬਣ ਗਈ ਹੈ। ਇਸ ਨਵੀਂ ਵਿਧੀ ਨੂੰ Context Bombing ਕਿਹਾ ਜਾਂਦਾ ਹੈ। ਆਓ ਇਸ ਪ੍ਰਣਾਲੀ ਦੀ ਪੜਚੋਲ ਕਰੀਏ।
Context Bombing ਕੀ ਹੈ?ਮੀਡੀਆ ਰਿਪੋਰਟਾਂ ਦੇ ਅਨੁਸਾਰ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਕੰਪਨੀ ਟਰੇਸਬਿਟ ਦੇ ਵਿਗਿਆਨੀਆਂ ਨੇ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਨੂੰ ਰੋਕਣ ਲਈ ਇੱਕ ਨਵਾਂ ਤਰੀਕਾ ਖੋਜਿਆ ਹੈ, ਜਿਸਨੂੰ ਕੰਟੈਕਸਟ ਬੰਬਿੰਗ ਕਿਹਾ ਜਾਂਦਾ ਹੈ। ਇਹ ਤਕਨਾਲੋਜੀ ਵਿਸ਼ੇਸ਼ ਕਮਾਂਡਾਂ ਨੂੰ ਪਾਸਵਰਡ, ਸੁਰੱਖਿਆ ਕੁੰਜੀਆਂ, ਜਾਂ ਹੋਰ ਮਹੱਤਵਪੂਰਨ ਜਾਣਕਾਰੀ ਨਾਲ ਪਹਿਲਾਂ ਤੋਂ ਜੋੜਦੀ ਹੈ। ਜਦੋਂ ਕੋਈ AI ਏਜੰਟ ਇਸ ਡੇਟਾ ਤੱਕ ਪਹੁੰਚ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਉਹਨਾਂ ਕਮਾਂਡਾਂ ਨੂੰ ਦੇਖਦਾ ਹੈ ਜੋ ਇਸਦੇ ਗਾਰਡਰੇਲ ਨੂੰ ਸਰਗਰਮ ਕਰਦੀਆਂ ਹਨ। ਇਸ ਦੇ ਨਤੀਜੇ ਵਜੋਂ AI ਕਿਸੇ ਵੀ ਸ਼ੱਕੀ ਜਾਂ ਅਣਉਚਿਤ ਕਾਰਵਾਈਆਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣ ਤੋਂ ਇਨਕਾਰ ਕਰਦਾ ਹੈ, ਹੈਕਰਾਂ ਨੂੰ ਤੁਹਾਡੇ ਸਿਸਟਮ ਦਾ ਕੰਟਰੋਲ ਲੈਣ ਤੋਂ ਰੋਕਦਾ ਹੈ।
ਇਹ ਸਿਸਟਮ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ?ਤੁਹਾਡੀ ਜਾਣਕਾਰੀ ਲਈ, ਸੰਦਰਭ ਬੰਬਾਰੀ ਦਾ ਉਦੇਸ਼ AI ਦੇ ਅੰਦਰੂਨੀ ਇਨਕਾਰ ਵਿਧੀ ਨੂੰ ਸਰਗਰਮ ਕਰਨਾ ਹੈ। ਜਿਵੇਂ ਹੀ ਮਾਡਲ ਨੂੰ ਇੱਕ ਗਲਤ ਕਮਾਂਡ ਵਾਲੇ ਸੰਦਰਭ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ, ਇਹ ਹੋਰ ਗਤੀਵਿਧੀ ਨੂੰ ਸਵੀਕਾਰ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੰਦਾ ਹੈ।
ਟਰੇਸਬਿਟ ਦੇ ਅਨੁਸਾਰ, ਇੱਕ ਵਾਰ ਜਦੋਂ ਕੋਈ ਏਆਈ ਇਸ ਸੁਰੱਖਿਆ ਮੋਡ ਵਿੱਚ ਦਾਖਲ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਇਸਨੂੰ ਇੱਕ ਖਤਰਨਾਕ ਕਮਾਂਡ ਨਾਲ ਦੁਬਾਰਾ ਪ੍ਰਭਾਵਿਤ ਕਰਨਾ ਬਹੁਤ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦਾ ਹੈ। ਵਿਗਿਆਨੀਆਂ ਨੇ ਇਸ ਤਕਨਾਲੋਜੀ ਦੀ ਕਈ ਜਾਣੇ-ਪਛਾਣੇ ਏਆਈ ਮਾਡਲਾਂ 'ਤੇ ਜਾਂਚ ਕੀਤੀ ਹੈ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਓਪਸ 4.8, ਜੇਮਿਨੀ 3.1 ਪ੍ਰੋ, ਜੀਐਲਐਮ 5.2, ਅਤੇ ਡੀਪਸੀਕ 4 ਪ੍ਰੋ ਸ਼ਾਮਲ ਹਨ।
ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਕੀ ਹੈ?ਮੀਡੀਆ ਰਿਪੋਰਟਾਂ ਦੇ ਅਨੁਸਾਰ, ਏਆਈ-ਅਧਾਰਤ ਚੈਟਬੋਟਸ ਅਤੇ ਵੱਡੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ (ਐਲਐਲਐਮ) ਨੂੰ ਕੰਮ ਕਰਨ ਲਈ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ। ਹੈਕਰ ਇਸ ਪ੍ਰਕਿਰਿਆ ਦਾ ਫਾਇਦਾ ਉਠਾਉਣ ਲਈ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ।
ਇਸ ਵਿੱਚ ਈਮੇਲਾਂ, ਦਸਤਾਵੇਜ਼ਾਂ, ਕੈਲੰਡਰ ਸੱਦਿਆਂ, ਜਾਂ ਹੋਰ ਮਹੱਤਵਪੂਰਨ ਫਾਈਲਾਂ ਵਿੱਚ ਲੁਕਵੇਂ ਕਮਾਂਡਾਂ ਜੋੜਨਾ ਸ਼ਾਮਲ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ AI ਅਸਲ ਕਮਾਂਡਾਂ ਸਮਝਦਾ ਹੈ। ਜੇਕਰ AI ਇਹਨਾਂ ਕਮਾਂਡਾਂ ਦੀ ਵਿਆਖਿਆ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਲੀਕ ਕਰ ਸਕਦਾ ਹੈ, ਗਲਤ ਫੈਸਲੇ ਲੈ ਸਕਦਾ ਹੈ, ਜਾਂ ਤੁਹਾਨੂੰ ਗੰਭੀਰ ਮੁਸੀਬਤ ਵਿੱਚ ਵੀ ਪਾ ਸਕਦਾ ਹੈ।