ਕੀ ਐਂਥਰੋਪਿਕ ਨੇ ਹੁਣੇ ਤੱਕ ਸਭ ਤੋਂ ਡਰਾਉਣੇ AI ਮਾਡਲ ਨੂੰ ਸਾਫਟ-ਲਾਂਚ ਕੀਤਾ ਹੈ?

ਹਾਂ, ਐਂਥਰੋਪਿਕ ਨੇ ਹੁਣੇ ਹੀ ਇੱਕ ਮਾਡਲ ਲਾਂਚ ਕੀਤਾ ਹੈ ਜੋ ਹੁਣ ਤੱਕ ਦਾ ਸਭ ਤੋਂ ਡਰਾਉਣਾ AI ਹੋ ਸਕਦਾ ਹੈ: ਕਲਾਉਡ ਮਿਥੋਸ ਪ੍ਰੀਵਿਊ। ਇਹ ਮਾਡਲ ਹੋਰ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਵਿੱਚ ਇੰਨਾ ਵਧੀਆ ਹੈ ਕਿ ਇਸਦਾ ਪਹਿਲਾ ਉਪਯੋਗ ਇੱਕ ਰੱਖਿਆਤਮਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਭੂਮਿਕਾ ਵਿੱਚ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਕੋਈ ਕਾਰੋਬਾਰ ਚਲਾ ਰਹੇ ਹੋ, ਤਾਂ ਤੁਹਾਨੂੰ ਪ੍ਰਭਾਵ ਨੂੰ ਸਮਝਣ ਦੀ ਲੋੜ ਹੈ।

ਕਲਾਉਡ ਮਿਥੋਸ ਪ੍ਰੀਵਿਊ ਨੂੰ ਇੰਨਾ ਖਤਰਨਾਕ ਕੀ ਬਣਾਉਂਦੀ ਹੈ?

ਕਲਾਡ ਮਿਥੋਸ ਪੂਰਵਦਰਸ਼ਨ ਇਸ ਲਈ ਵੱਖਰਾ ਹੈ ਕਿਉਂਕਿ ਇਹ ਸਿਰਫ਼ ਇੱਕ ਵਿਸ਼ਾਲ ਭਾਸ਼ਾ ਮਾਡਲ ਨਹੀਂ ਹੈ — ਇਹ ਹੋਰ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਸਰਗਰਮੀ ਨਾਲ ਹੇਰਾਫੇਰੀ ਅਤੇ ਸ਼ੋਸ਼ਣ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ। ਐਂਥਰੋਪਿਕ ਨੇ ਇਸਨੂੰ "ਸਿਸਟਮ ਮੈਨੀਪੁਲੇਸ਼ਨ" ਵਿੱਚ ਅਸਧਾਰਨ ਤੌਰ 'ਤੇ ਵਧੀਆ ਬਣਾਉਣ ਲਈ ਬਣਾਇਆ ਹੈ, ਮਤਲਬ ਕਿ ਇਹ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰ ਸਕਦਾ ਹੈ, ਧੋਖੇਬਾਜ਼ ਇਨਪੁਟਸ, ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਹੋਰ AI ਸਿਸਟਮਾਂ ਵਿੱਚ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਵੀ ਬਾਈਪਾਸ ਕਰ ਸਕਦਾ ਹੈ।

ਪਰੰਪਰਾਗਤ AI ਮਾਡਲਾਂ ਦੇ ਉਲਟ ਜੋ ਮਨੁੱਖਾਂ ਵਰਗਾ ਟੈਕਸਟ ਬਣਾਉਣ ਜਾਂ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣ 'ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਤ ਕਰਦੇ ਹਨ, ਮਿਥੌਸ ਨੂੰ ਧੋਖੇ ਅਤੇ ਸ਼ੋਸ਼ਣ ਦਾ ਮਾਸਟਰ ਬਣਨ ਲਈ ਬਣਾਇਆ ਗਿਆ ਹੈ। ਇਹ ਉਪਭੋਗਤਾ ਦੇ ਵਿਵਹਾਰ ਦੀ ਨਕਲ ਕਰ ਸਕਦਾ ਹੈ, ਫਿਸ਼ਿੰਗ ਹਮਲਿਆਂ ਨੂੰ ਭਰੋਸੇਮੰਦ ਬਣਾ ਸਕਦਾ ਹੈ, ਅਤੇ ਹੋਰ AI ਸਿਸਟਮਾਂ ਨੂੰ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਦੇਣ ਲਈ ਚਲਾਕੀ ਵੀ ਕਰ ਸਕਦਾ ਹੈ।

Mythos ਨੂੰ ਰੱਖਿਆਤਮਕ ਢੰਗ ਨਾਲ ਕਿਵੇਂ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ?

ਮਾਇਥੋਸ ਦੀ ਐਂਥਰੋਪਿਕ ਦੀ ਪਹਿਲੀ ਵਰਤੋਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿੱਚ ਹੈ। ਉਹ ਇਸਦੀ ਵਰਤੋਂ ਆਪਣੇ ਸਿਸਟਮਾਂ ਅਤੇ ਉਹਨਾਂ ਦੇ ਭਾਈਵਾਲਾਂ ਦੇ ਤਣਾਅ-ਜਾਂਚ ਲਈ ਕਰ ਰਹੇ ਹਨ। ਇੱਕ ਖਤਰਨਾਕ ਅਭਿਨੇਤਾ ਦੁਆਰਾ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਹਮਲਿਆਂ ਦੀ ਨਕਲ ਕਰਕੇ, ਮਿਥੌਸ ਅਸਲ-ਸੰਸਾਰ ਦੀਆਂ ਧਮਕੀਆਂ ਦੁਆਰਾ ਉਹਨਾਂ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ।

ਇਹ ਪਹੁੰਚ ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਹੈ ਕਿ ਕਿਵੇਂ ਕੰਪਨੀਆਂ ਆਪਣੇ ਨੈੱਟਵਰਕਾਂ ਵਿੱਚ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਪ੍ਰਵੇਸ਼ ਜਾਂਚ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ, ਕਿਉਂਕਿ ਮਿਥੌਸ ਮਨੁੱਖ ਵਰਗੇ ਵਿਵਹਾਰ ਦੀ ਇੰਨੀ ਚੰਗੀ ਤਰ੍ਹਾਂ ਨਕਲ ਕਰ ਸਕਦੇ ਹਨ, ਇਹ ਸੂਖਮ ਖਾਮੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਨ ਵਿੱਚ ਕਿਤੇ ਜ਼ਿਆਦਾ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੈ ਜੋ ਰਵਾਇਤੀ ਤਰੀਕਿਆਂ ਦੁਆਰਾ ਖੁੰਝੀਆਂ ਜਾ ਸਕਦੀਆਂ ਹਨ।

ਅਜਿਹੇ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਦੇ ਜੋਖਮ ਕੀ ਹਨ?

ਸਭ ਤੋਂ ਵੱਡਾ ਖਤਰਾ ਇਹ ਹੈ ਕਿ ਇਸ ਤਕਨਾਲੋਜੀ ਨੂੰ ਮਾੜੇ ਕਲਾਕਾਰਾਂ ਦੁਆਰਾ ਹਥਿਆਰ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਮਿਥੁਸ ਗਲਤ ਹੱਥਾਂ ਵਿੱਚ ਪੈ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਇਸਦੀ ਵਰਤੋਂ ਬਹੁਤ ਵਧੀਆ ਸਾਈਬਰ ਹਮਲੇ ਕਰਨ, ਗਲਤ ਜਾਣਕਾਰੀ ਫੈਲਾਉਣ, ਜਾਂ ਵਿੱਤੀ ਬਾਜ਼ਾਰਾਂ ਵਿੱਚ ਹੇਰਾਫੇਰੀ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

ਇੱਕ ਹੋਰ ਚਿੰਤਾ ਅਣਇੱਛਤ ਨਤੀਜਿਆਂ ਦੀ ਸੰਭਾਵਨਾ ਹੈ। ਸਭ ਤੋਂ ਵਧੀਆ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੇ ਬਾਵਜੂਦ, ਇਹ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਅਤੇ ਅਚਾਨਕ ਤਰੀਕਿਆਂ ਨਾਲ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਤਰੀਕੇ ਲੱਭ ਸਕਦਾ ਹੈ।

ਕਾਰੋਬਾਰ ਆਪਣੀ ਰੱਖਿਆ ਕਿਵੇਂ ਕਰ ਸਕਦੇ ਹਨ?

ਕਾਰੋਬਾਰਾਂ ਨੂੰ ਆਪਣੇ ਸਿਸਟਮਾਂ ਨੂੰ AI-ਸੰਚਾਲਿਤ ਹਮਲਿਆਂ ਤੋਂ ਬਚਾਉਣ ਲਈ ਕਿਰਿਆਸ਼ੀਲ ਕਦਮ ਚੁੱਕਣ ਦੀ ਲੋੜ ਹੈ। ਇਸ ਵਿੱਚ ਮਜ਼ਬੂਤ ​​ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਸ਼ਾਮਲ ਹੈ,