Punjabi: ਡੀਪ ਫੇਕਸ ਸਮਾਜ ਲਈ ਨਵਾਂ ਖਤਰਾ –ਇੱਕ ਵਿਸ਼ਲੇਸ਼ਣ

[dalvinder45]

ਡੀਪ ਫੇਕਸ ਸਮਾਜ ਲਈ ਨਵਾਂ ਖਤਰਾ –ਇੱਕ ਵਿਸ਼ਲੇਸ਼ਣ

ਡਾ: ਦਲਵਿੰਦਰ ਸਿੰਘ ਗ੍ਰੇਵਾਲ​

ਨਵੀਂ ਦਿੱਲੀ ਦੇ ਵਿੱਚ ਦੇਸ਼ ਦੇ ਸਾਰੇ ਡੀਜੀਪੀਆਂ ਦੀ ਕਾਨਫਰੰਸ ਹੋ ਰਹੀ ਹੈ ਜਿਸ ਵਿੱਚ ਪ੍ਰਾਈਮ ਮਿਨਿਸਟਰ ਤੇ ਹੋਮ ਮਿਨਿਸਟਰ ਦੋਨੋਂ ਆ ਕੇ ਅਪਰਾਧਿਕ ਕਾਨੂੰਨਾਂ ਬਾਰੇ ਤੇ ਆਰਟੀਫਿਸ਼ਅਲ ਇੰਟੈਲੀਜੈਂਸ ਭਾਵ ਨਕਲੀ ਗਿਆਨ ਬਾਰੇ ਤੇ ਖਾਸ ਕਰਕੇ ਡੀਪ ਫੇਕਸ (ਭਾਵ ਡੂੰਘੀ ਨਕਲ ਕਰਕੇ ਨਵੀਂ ਤਰ੍ਹਾਂ ਚਿਤਰ ਜਾਂ ਵਿਡੀਓ ਪੇਸ਼ ਕਰਨਾ) ਬਾਰੇ ਵੀ ਚਰਚਾ ਕਰਨਗੇ। ਪ੍ਰਧਾਨ ਮੰਤਰੀ ਮੋਦੀ ਦੇ ਸਮੇਂ ਸਮੇਂ ਆਏ ਬਿਆਨਾਂ ਤੋਂ ਸਾਫ ਜ਼ਾਹਿਰ ਹੈ ਕਿ ਡੀਪ ਫੇਕਸ ਸਮਾਜ ਲਈ ਬਹੁਤ ਵੱਡਾ ਖਤਰਾ ਬਣ ਕੇ ਸਾਹਮਣੇ ਆਏ ਹਨ ਜਿਸ ਬਾਰੇ ਵਿਚਾਰ ਚਰਚਾ ਬਹੁਤ ਜ਼ਰੂਰੀ ਹੈ।

ਡੀਪਫੇਕ ਹੈ ਕੀ? ਡੀਪਫੇਕ ਉਹ ਵੀਡੀਓ ਜਾਂ ਚਿੱਤਰ ਹੁੰਦੇ ਹਨ ਜੋ ਅਕਸਰ ਉਹਨਾਂ ਲੋਕਾਂ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਡਿਜ਼ੀਟਲ ਤੌਰ 'ਤੇ ਬਦਲਿਆ ਗਿਆ ਹੈ, ਭਾਵੇਂ ਇਹ ਉਹਨਾਂ ਦੀ ਆਵਾਜ਼, ਚਿਹਰਾ ਜਾਂ ਸਰੀਰ ਹੋਵੇ, ਤਾਂ ਜੋ ਉਹ ਕੁਝ ਹੋਰ "ਕਹਿ ਰਹੇ" ਹੋਣ ਜਾਂ ਪੂਰੀ ਤਰ੍ਹਾਂ ਕੋਈ ਹੋਰ ਹੋਣ। ਇਨ੍ਹਾਂ ਵਿੱਚ ਕਿਸੇ ਵਿਅਕਤੀ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਜਨਤਕ ਸ਼ਖਸੀਅਤ ਦੇ ਚਿਹਰੇ ਅਤੇ/ ਜਾਂ ਆਵਾਜ਼, ਨੂੰ ਨਕਲੀ ਖੁਫੀਆ ਸਾਫਟਵੇਅਰ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇਸ ਤਰੀਕੇ ਨਾਲ ਹੇਰਾਫੇਰੀ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜਿਸ ਨਾਲ ਬਦਲਿਆ ਗਿਆ ਵੀਡੀਓ ਇੱਕ ਵੱਖ ਚਿਹਰੇ ਵਜੋਂ ਪ੍ਰਮਾਣਿਕ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ।

ਆਮ ਤੌਰ 'ਤੇ, ਡੀਪ ਫੇਕ ਦੀ ਵਰਤੋਂ ਜਾਣ ਬੁੱਝ ਕੇ ਗਲਤ ਜਾਣਕਾਰੀ ਫੈਲਾਉਣ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜਾਂ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਪਿੱਛੇ ਉਹਨਾਂ ਦਾ ਕੋਈ ਖ਼ਰਾਬ ਇਰਾਦਾ ਹੋ ਸਕਦਾ ਹੈ ਜਿਵੇਂ ਕਿ ਇਸਨੂੰ ਕਿਸੇ ਰਾਜਨੇਤਾ ਵਾਂਗ ਕੁਝ ਅਜਿਹਾ ਕਹਿ ਕੇ ਜੋ ਉਹਨਾਂ ਨੇ ਨਹੀਂ ਕਿਹਾ, ਜਾਂ ਇਸ ਤਰ੍ਹਾਂ ਵਿਖਾਉਣ ਲਈ ਕਿ ਇੱਕ ਮਸ਼ਹੂਰ ਵਿਅਕਤੀ ਇੱਕ ਅਸ਼ਲੀਲ ਵੀਡੀਓ ਵਿੱਚ ਸੀ ਜਿਸ ਵਿੱਚ ਉਹ ਨਹੀਂ ਸੀ। ਉਹ ਲੋਕਾਂ ਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰਨ, ਡਰਾਉਣ, ਨੀਵਾਂ ਦਿਖਾਉਣ ਅਤੇ ਕਮਜ਼ੋਰ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ। ਡੀਪਫੇਕ ਮਹੱਤਵਪੂਰਨ ਮੁੱਦਿਆਂ ਬਾਰੇ ਗਲਤ ਜਾਣਕਾਰੀ ਅਤੇ ਉਲਝਣ ਵੀ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਡੀਪਫੇਕ ਤਕਨਾਲੋਜੀ ਬਦਲਾ ਲੈਣ ਵਾਲੇ ਪੋਰਨ ਬਣਾਉਣ ਵਰਗੀਆਂ ਹੋਰ ਅਨੈਤਿਕ ਕਾਰਵਾਈਆਂ ਨੂੰ ਵਧਾ ਸਕਦੀ ਹੈ, ਜਿੱਥੇ ਔਰਤਾਂ ਨੂੰ ਅਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ ਜਾਂਦਾ ਹੈ।

ਅਸ਼ਲੀਲ ਫੇਕ ਵਿਡੀਓ ਦੀ ਗਿਣਤੀ ਲਗਾਤਾਰ ਵਧ ਰਹੀ ਹੈ। ਆਰਟੀਫਿਸ਼ਅਲ ਇੰਟੈਲੀਜੈਂਸ ਫਰਮ ਡੀਪਟਰੇਸ ਨੇ ਸਤੰਬਰ 2019 ਵਿੱਚ 15,000 ਡੀਪ ਫੇਕ ਵੀਡੀਓ ਆਨਲਾਈਨ ਲੱਭੇ, ਜੋ ਕਿ ਨੌਂ ਮਹੀਨਿਆਂ ਵਿੱਚ ਲਗਭਗ ਦੁੱਗਣੇ ਹੋ ਗਏ। ਹੈਰਾਨਕੁਨ ਤੱਥ ਇਹ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ 96% ਅਸ਼ਲੀਲ ਸਨ ਅਤੇ ਉਹਨਾਂ ਵਿੱਚੋਂ 99% ਉਹਨਾਂ ਨੇ ਘੋਖੇ ਤਾਂ ਉਨ੍ਹਾਂ ਵਿੱਚ ਜੋ ਚਿਹਰੇ ਡੀਪ ਫੇਕ ਕੀਤੇ ਗਏ ਉਨ੍ਹਾਂ ਵਿੱਚ ਜ਼ਿਆਦਾ ਤਰ ਮਹਿਲਾ ਮਸ਼ਹੂਰ ਹਸਤੀਆਂ ਅਤੇ ਪੋਰਨ ਸਟਾਰ ਸਨ। ਨਵੀਆਂ ਤਕਨੀਕਾਂ ਰਾਹੀਂ ਬੁਰੀ ਨੀਤ ਵਾਲੇ ਆਰਟੀਫਿਸ਼ਅਲ ਇੰਟੈਲੀਜੈਂਸ ਬਾਰੇ ਕੁੱਝ ਜਾਣਕਾਰੀ ਰੱਖਣ ਵਾਲੇ ਮੁੱਠੀ ਭਰ ਲੋਕਾਂ ਨੇ ਫੋਟੋਆਂ ਅਤੇ ਵਿਡੀਓ ਤੋਂ ਡੀਪ ਫੇਕ ਬਣਾਏ । ਇਹ ਜਾਅਲੀ ਪੋਰਨ ਵੀਡੀਓ ਮਸ਼ਹੂਰ ਫਿਲਮੀ ਕਲਾਕਾਰਾਂ ਤੋਂ ਬਦਲਾ ਲੈਣ ਲਈ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਇਜ਼ਤ ਰੋਲਣ ਲਈ ਬਣਾਏ ਗਏ।। ਬੋਸਟਨ ਯੂਨੀਵਰਸਿਟੀ ਵਿਚ ਕਾਨੂੰਨ ਦੀ ਪ੍ਰੋਫੈਸਰ, ਡੈਨੀਅਲ ਸਿਟਰੋਨ ਨੇ ਕਿਹਾ: "ਡੀਪਫੇਕ ਤਕਨਾਲੋਜੀ ਨੂੰ ਔਰਤਾਂ ਵਿਰੁੱਧ ਹਥਿਆਰ ਬਣਾਇਆ ਜਾ ਰਿਹਾ ਹੈ।" ਪੋਰਨ ਤੋਂ ਇਲਾਵਾ ਬਹੁਤ ਸਾਰੇ ਡੀਪ ਫੇਕ ਧੋਖੇ, ਵਿਅੰਗ ਅਤੇ ਸ਼ਰਾਰਤ ਵਜੋਂ ਵੀ ਬਣਾਏ ਗਏ। ਡੀਪ ਫੇਕਸ ਨੂੰ ਚਿੰਤਾ ਦਾ ਇੱਕ ਸਰੋਤ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿਉਂਕਿ ਉਹਨਾਂ ਦੀ ਵਰਤੋਂ ਅਕਸਰ ਜਾਣਬੁੱਝ ਕੇ ਗੁੰਮਰਾਹ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।ਡੀਪ ਫੇਕਸ ਲੋਕਾਂ ਦੀ ਇਜ਼ਤ ਨਾਲ ਖਿਲਵਾੜ ਕਰਨ ਵਾਲੇ ਅਤੇ ਤੱਥਾਂ ਨੂੰ ਤੋੜ ਮੋੜ ਕੇ ਪੇਸ਼ ਕਰਨ ਅਤੇ ਆਮ ਲੋਕਾਂ ਦੇ ਪ੍ਰਤੀ ਭਰੋਸੇ ਤੋੜਨ ਵਾਲੇ ਬਣ ਰਹੇ ਹਨ ।

ਡੀਪ ਫੇਕਸ ਕਿਉਂ ਹੋ ਰਿਹਾ ਹੈ ਤੇ ਕੌਣ ਕਰ ਰਿਹਾ ਹੈ ਕਿਵੇਂ ਕਰ ਰਿਹਾ ਹੈ ਇਸ ਬਾਰੇ ਵੀ ਮੈਂ ਕੁਝ ਆਪ ਅੱਗੇ ਤੱਤ ਪੇਸ਼ ਕਰਾਂਗਾ ਭਾਵੇਂ ਕਿ ਇਸ ਦਾ ਗਿਆਨ ਡੁੰਘਾਈ ਦੇ ਵਿੱਚ ਜਾਣਾ ਬਹੁਤ ਮੁਸ਼ਕਿਲ ਹੈ ਕਿਉਂਕਿ ਇਸ ਵਿੱਚ ਬੜੇ ਹੀ ਗੁੱਝੇ ਢੰਗ ਦੇ ਨਾਲ ਇਨਫੋਰਮੇਸ਼ਨ ਟੈਕਨਾਲੋਜੀ ਨੂੰ ਬੜੇ ਵੱਡੇ ਪੱਧਰ ਤੇ ਵਰਤਿਆ ਜਾ ਰਿਹਾ ਹੈ ਭਾਵੇਂ ਕਿ ਸਰਕਾਰੀ ਪੱਧਰ ਦੇ ਉੱਤੇ ਇਸ ਬਾਰੇ ਬੜੀ ਚਰਚਾ ਹੋ ਰਹੀ ਹੈ ਪਰ ਆਮ ਲੋਕਾਂ ਦੇ ਪੱਧਰ ਤੇ ਇਸ ਬਾਰੇ ਨਾ ਤਾਂ ਗਿਆਨ ਹੈ ਤੇ ਨਾ ਹੀ ਇਸ ਬਾਰੇ ਕੋਈ ਪ੍ਰਤੀਕਰਮ ਕੀਤਾ ਗਿਆ ਹੈ।

ਡੀਪ ਫੇਕ ਦਾ ਪਤਾ ਕਿਵੇਂ ਲੱਗੇ ਤੇ ਇਸ ਨਾਲ ਨਜਿਠੀਏ ਕਿਵੇਂ ? ਡੀਪ ਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਹੋਰ ਵੀ ਔਖਾ ਹੁੰਦਾ ਜਾ ਰਿਹਾ ਹੈ ਕਿਉਂਕਿ ਡੀਪ ਫੇਕ ਬਣਾਉਣ ਵਾਲੀ ਟੈਕਨਾਲੋਜੀ ਵਧੇਰੇ ਆਧੁਨਿਕ ਹੋ ਰਹੀ ਹੈ। ਪਹਿਲੀਆਂ ਖੋਜਾਂ ਵਿੱਚ ਇਹੋ ਲਭਿਆ ਗਿਆ ਕਿ ਡੀਪਫੇਕ ਚਿਹਰੇ ਮਨੁੱਖਾਂ ਵਾਂਗ ਨਹੀਂ ਝਪਕਦੇ ਇਸ ਲਈ ਡੀਪ ਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਨਾ ਝਪਕਣ ਵਾਲੇ ਚਿਹਰੇ ਲੱਭਣ ਦਾ ਵਧੀਆ ਤਰੀਕਾ ਮੰਨਿਆ ਜਾਂਦਾ ਸੀ ਕਿ ਕੀ ਚਿੱਤਰ ਅਤੇ ਵੀਡੀਓ ਜਾਅਲੀ ਸਨ ਜਾਂ ਨਹੀਂ। ਪਰ ਜਿਵੇਂ ਹੀ ਇਸ ਖੋਜ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ, ਡੀਪਫੇਕ ਬਣਾਉਣ ਵਾਲਿਆਂ ਨੇ ਇਸ ਨੂੰ ਵੀ ਠੀਕ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਡੀਪਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਹੋਰ ਵੀ ਮੁਸ਼ਕਲ ਹੋ ਗਿਆ। ਇਸੇ ਲਈ ਡੀਪਫੇਕ ਤਕਨਾਲੋਜੀ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ ਅਤੇ ਖੋਜਣਾ ਔਖਾ ਹੋਈ ਜਾਂਦਾ ਹੈ ਭਾਵੇਂ ਸੋਸ਼ਲ ਮੀਡੀਆ ਅਤੇ/ਜਾਂ ਔਨਲਾਈਨ ਰਾਹੀਂ ਖੋਜ ਕਰਦੇ ਹੋਏ ਵਿਅਕਤੀਆਂ ਨੂੰ ਆਪਣੇ ਆਪ ਡੀਪਫੇਕ ਖੋਜਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਖਾਸ ਤੌਰ 'ਤੇ ਵਧੇਰੇ ਸਰੋਤ ਉਪਲਬਧ ਹੋ ਰਹੇ ਹਨ।

ਮੈਸੇਚਿਉਸੇਟਸ ਇੰਸਟੀਚਿਊਟ ਆਫ਼ ਟੈਕਨਾਲੋਜੀ ਨੇ ਛੋਟੇ ਵੇਰਵਿਆਂ 'ਤੇ ਧਿਆਨ ਕੇਂਦ੍ਰਤ ਕਰਕੇ ਡੂੰਘੇ ਫੇਕ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਲੋਕਾਂ ਦੀ ਮਦਦ ਕਰਨ ਲਈ ਇੱਕ ਡਿਟੈਕਟ ਫੇਕਸ ਵੈੱਬਸਾਈਟ ਬਣਾਈ ਜਿਸ ਵਿਚ ਕਈ ਤਰ੍ਹਾਂ ਦੀ ਕੰਪਿਊਟਰੀ "ਕਲਾਕਾਰੀ" ਰਾਹੀ ਉਜਾਗਰ ਕਰਕੇ ਸਾਬਤ kIqw jw ਸਕਦਾ ਹੈ ਕਿ qsvIr jWivfIe ਡੀਪ ਫੇਕ ਹੈ। ਇਸ ਵਿੱਚ ਚਿਹਰੇ ਦੇ ਰੂਪਾਂਤਰਣ, ਚਮਕ, ਝਪਕਣਾ, ਬੁੱਲ੍ਹਾਂ ਦੀ ਹਰਕਤ, ਖੰਘ ਜਾਂ ਛਿੱਕ ਵਰਗੀਆਂ ਕੁਦਰਤੀ ਆਵਾਜ਼ਾਂ ਅਤੇ ਸੁੰਦਰਤਾ ਦੇ ਨਿਸ਼ਾਨ ਅਤੇ ਚਿਹਰੇ ਦੇ ਵਾਲਾਂ ਵਰਗੀਆਂ ਹੋਰ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਵੱਲ ਧਿਆਨ ਦੇਣਾ ਸ਼ਾਮਲ ਹੈ।

ਤੱਥਾਂ ਦੀ fUMGI ਜਾਂਚ ਨਿਸ਼ਚਿਤ ਤੌਰ 'ਤੇ ਡੀਪ ਫੇਕ ਪਛਾਣ ਸਕਦੀ ਹੈ ਅਤੇ ਜਾਣਕਾਰੀ ਦੀ ਜਾਂਚ ਅਤੇ ਪੁਸ਼ਟੀ ਕਰਨ ਦੇ ਉਹੀ ਨਿਯਮ ਲਾਗੂ ਹੁੰਦੇ ਹਨ ਤੁਸੀਂ ਸੁਣਦੇ ਜਾਂ ਦੇਖਦੇ ਹੋ । ਜੋ ਅਸਲ ਹੁੰਦਾ ਹੈ ਉਹ ਡੀਪ ਫੇਕ ਤੋਂ ਹਮੇਸ਼ਾ ਵਧੀਆ ਹੁੰਦਾ ਹੈ । ਹੋਰ ਭਰੋਸੇਯੋਗ ਸਰੋਤਾਂ ਦੇ ਨਾਲ ਸਮੱਗਰੀ ਦੀ ਜਾਂਚ ਕਰਨਾ ਨਾ ਸਿਰਫ਼ ਜਾਣਕਾਰੀ ਨੂੰ ਬਿਹਤਰ ਤਰੀਕੇ ਨਾਲ ਸਮਝਣ ਲਈ ਜ਼ਰੂਰੀ ਹੈ, ਸਗੋਂ ਇਹ ਵੀ ਪਤਾ ਲਗਾਉਣ ਲਈ ਕਿ ਕੀ ਜਾਣਕਾਰੀ ਅਸਲ ਹੈ ਜਾਂ ਨਹੀਂ। ਘਟੀਆ ਡੀਪ ਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਆਮ ਤੌਰ 'ਤੇ ਆਸਾਨ ਹੁੰਦਾ ਹੈ, ਕਿਉਂਕਿ ਹੋਠਾਂ ਦੀ ਆਪਸੀ ਹਰਕਤ ਚੰਗੀ ਤਰ੍ਹਾਂ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੀ ਜਾਂ ਚਮੜੀ ਦਾ ਰੰਗ ਵੀ ਅਜੀਬ ਲੱਗ ਸਕਦਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਡੀਪ ਫੇਕ ਟੈਕਨੀਸ਼ੀਅਨਾਂ ਲਈ ਵਾਲਾਂ ਦੇ ਸਹੀ ਵੇਰਵੇ ਬਣਾਉਣਾ ਅਕਸਰ ਔਖਾ ਹੁੰਦਾ ਹੈ। ਖੋਜਾਂ ਤੋਂ ਇਹ ਵੀ ਲੱਗਾ ਹੈ ਕਿ ਗਹਿਣੇ, ਦੰਦ ਅਤੇ ਚਮੜੀ ਦੇ ਵੱਖਰੀ ਤਰ੍ਹਾਂ ਦੇ ਪ੍ਰਤੀਬਿੰਬਾਂ ਤੋਂ ਵੀ ਡੀਪ ਫੇਕ ਦੀ ਪਛਾਣ ਹੋ ਸਕਦੀ ਹੈ।

ਜੇਕਰ ਡੀਪ ਫੇਕ ਨਜ਼ਰ ਆਉਂਦੀ ਹੈ ਤਾਂ ਕੀ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ? ਜੇਕਰ ਤੁਹਾਨੂੰ ਕੋਈ ਡੀਪਫੇਕ ਨਜ਼ਰ ਆਉਂਦਾ ਹੈ ਤਾਂ ਇਸਨੂੰ ਸਾਂਝਾ ਕਰਨ ਤੋਂ ਗੁਰੇਜ਼ ਕਰੋ। ਡੀਪ ਫੇਕ ਨੂੰ ਸਾਂਝਾ ਕਰਨ ਕਿਸੇ ਹੋਰ ਲਈ ਬਹੁਤ ਖਤਰਨਾਕ ਸਿੱਧ ਹੋ ਸਕਦਾ ਹੈ ਤੇ ਜਿਸ ਦਾ ਡੀਪ ਫੇਕ ਬਣਾਇਆ ਗਿਆ ਹੋਵੇ ਉਸ ਦੀ ਜਾਨ ਤਕ ਵੀ ਲੈ ਸਕਦਾ ਹੈ।ਜੇ ਤੁਸੀਂ ਆਪਣੇ ਆਪ ਨੂੰ ਵੀ ਕਿਸੇ ਡੀਪ ਫੇਕ ਦੇ ਧੋਖੇ ਵਿਚ ਫਸੇ ਪਾਉਂਦੇ ਹੋ, ਤਾਂ ਤੁਰੰਤ ਪੁਲਿਸ, ਮੀਡੀਆ ਅਤੇ ਸੰਬੰਧਿਤ ਕਾਨੂੰਨਾਂ ਦੇ ਤਜਰਬੇ ਵਾਲੇ ਵਕੀਲ ਨਾਲ ਸੰਪਰਕ ਕਰੋ। ਭਾਵੇਂ ਕੋਈ ਫ਼ੋਟੋ ਜਾਂ ਵੀਡੀਓ "ਮਜ਼ੇ ਲਈ” ਜਾਂ ਸ਼ਰਾਰਤ ਲਈ ਬਣਾਈ ਗਈ ਹੋਵੇ ਤਾਂ ਵੀ ਇਹ ਗੈਰ-ਕਾਨੂੰਨੀ ਹੈ ਜੇਕਰ ਇਹ ਤੁਹਾਡੀ ਜਾਣਕਾਰੀ ਜਾਂ ਇਜਾਜ਼ਤ ਤੋਂ ਬਿਨਾਂ ਬਣਾਈ ਗਈ । ਡੀਪ ਫੇਕ ਦੇ ਸ਼ਿਕਾਰ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੇ ਅਧਿਕਾਰੀਆਂ ਨਾਲ ਸੰਪਰਕ ਕਰ ਸਕਦੇ ਹਨ ਜੋ ਫੋਰੈਂਸਿਕ ਜਾਂਚ ਕਰਵਾ ਕੇ ਮਦਦ ਕਰ ਸਕਦੇ ਹਨ, ਅਤੇ ਲੋਕ ਉਹਨਾਂ ਸਾਧਨਾਂ ਦੀ ਰਿਪੋਰਟਿੰਗ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਦੁਰਵਿਵਹਾਰ ਦੀ ਰਿਪੋਰਟ ਕਰ ਸਕਦੇ ਹਨ।

ਭਾਰਤ ਸਰਕਾਰ ਨੇ ਇੰਸਟਾਗ੍ਰਾਮ, ਐਕਸ ਅਤੇ ਫੇਸਬੁੱਕ ਵਰਗੇ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ ਨੂੰ ਸ਼ਿਕਾਇਤ ਮਿਲਣ ਦੇ 24 ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਡੀਪਫੇਕ ਵੀਡੀਓਜ਼ ਨੂੰ ਹਟਾਉਣ ਦੇ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ ਹਨ। ਇਹ ਕਦਮ ਇੱਕ ਅਭਿਨੇਤਰੀ ਦੁਆਰਾ ਸੋਸ਼ਲ ਮੀਡੀਆ 'ਤੇ ਘੁੰਮ ਰਹੇ ਇੱਕ ਡੂੰਘੇ ਜਾਅਲੀ ਵੀਡੀਓ ਬਾਰੇ ਸ਼ਿਕਾਇਤ ਕਰਨ ਤੋਂ ਬਾਅਦ ਆਇਆ ਹੈ। ਐਡਵਾਈਜ਼ਰੀ ਵਿੱਚ ਜ਼ਿਕਰ ਕੀਤਾ ਗਿਆ ਹੈ ਕਿ ਸੋਸ਼ਲ ਮੀਡੀਆ ਵਿੱਚੋਲਿਆਂ ਨੂੰ ਧਿਆਨ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਅਜਿਹੀ ਸਮੱਗਰੀ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਹਟਾਉਣ ਜਾਂ ਬੰਦ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਲੋੜਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿਣ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ ਹੋ ਸਕਦੀ ਹੈ। ਸਰਕਾਰ ਨੇ ਡੀਪ ਫੇਕ ਤੋਂ ਪ੍ਰਭਾਵਿਤ ਲੋਕਾਂ ਨੂੰ ਪਹਿਲੀ ਸੂਚਨਾ ਰਿਪੋਰਟ (ਐਫਆਈਆਰ) ਦਰਜ ਕਰਨ ਅਤੇ ਸੂਚਨਾ ਤਕਨਾਲੋਜੀ (ਆਈ.ਟੀ.) ਨਿਯਮਾਂ ਦੇ ਤਹਿਤ ਉਪਾਅ ਕਰਨ ਦੀ ਅਪੀਲ ਕੀਤੀ ਹੈ।

 

[dalvinder45]

Deep fake on Tendulkar

Sachin Tendulkar on Monday dismissed as 'fake' the video in which he is seen promoting a gaming application that lures users for easy money. The video shows Tendulkar talking about the merits of the application, saying he did not know that money making has become so easy and that his daughter uses the platform. Tendulkar posted the video along with a message in which he expressed concern about the misuse of technology. 'These videos are fake. It is disturbing to see rampant misuse of technology. Request everyone to report videos, ads & apps like these in large numbers,' Tendulkar tweeted. The voice used in the deepfake video matches Tendulkar's.

'Social Media platforms need to be alert and responsive to complaints, Tendulkar stated. 'Swift action from their end is crucial to stopping the spread of misinformation and deepfakes.'

 

[dalvinder45]

Deepfake issue: Indian Govt to notify tighter IT rules in a week (PTI)​

Union Minister Rajeev Chandrasekhar on Tuesday said compliance with the advisory on deepfakes has been "mixed" from social media and online platforms, and promised that amended IT rules will be notified in a week to tackle the issue.
The minister of state for IT and electronics asserted that the onus of detecting and taking down deepfakes and prohibited content lies with the platforms and intermediaries, and warned that any inaction or casual approach on their part to this "core responsibility" of preventing user harm may even lead to them being blocked.
The latest ultimatum underlines the hardening of the government's stance on the issue of deepfakes and misinformation powered by AI, after the Centre categorically told platforms to crack down with urgency on doctored and manipulated videos rampantly being circulated on social media.
Chandrasekhar pointed out that the government had earlier made it amply clear to social media and online platforms that if its advisory on deepfake is not fully adhered to, new IT rules would follow.
"There has been a mixed performance of compliance and I had said at the time of the advisory, that if we find that the advisory is not being followed through completely, we will follow it up with a very clear amended IT rules that will be notified," Chandrasekhar said on the sidelines of his visit to boAt manufacturing unit.
The amended IT rules will come up in the next one week, the Minister said.
"What was in the advisory will now be firmly embedded into the IT rules and we hope to do this in the next one week," he said.
Deepfakes refer to synthetic or doctored media that is digitally manipulated and altered to convincingly misrepresent or impersonate someone using a form of artificial intelligence or AI.
Last month, the government directed all platforms to comply with the IT rules and mandated companies to inform users in clear and precise terms about prohibited content.
The government talked tough with social media platforms after several 'deepfake' videos targeting leading actors, including Rashmika Mandanna, sparked public outrage and raised concerns over the weaponisation of technology for creating synthetic content and harmful narratives.
Addressing a press conference at BJP headquarters in New Delhi on Tuesday, Chandrasekhar said that the government has done two rounds of Digital India dialogues with intermediaries (platforms), drawing their attention to current rules and cautioning them about consequences of non-compliance.
"We have drawn their attention to the current rules. We have drawn their attention to the consequences of non-compliance. We have issued an advisory and we have also said that if we are not satisfied with the compliance, we will notify newly amended rules that are much more specific to the issue of misinformation and deepfakes in particular," the Minister said.
As such, the current IT rules already prohibit misinformation and deepfakes, and the government through the recent advisories prescribed certain specific actions including amendment of 'terms of use'.
"That prescription is not there in the rules...if it is not enough after the government suggests through an advisory what amendments have to be done to their 'Terms of Use' we will then embed that explicitly in the rules saying that this should be done by you to comply with the rules…"
“...which is why I said we will wait for the advisory, we will see the compliance to the advisory, and if we find that there is still some non-compliance or partial compliance, we will follow it up and notify new rules which we are now going to do," he explained.
The minister said that platforms have a "core responsibility" of preventing user harm, and inability on their part to meet these obligations will lead to government action.
"We have made it clear that these are not things based on their 'best effort'...these are illegalities and harms and cannot remain on your platforms...there are 11 types of harms explicitly mentioned including CSAM, and platforms have to ensure that no user puts out such content…
“If any platform fails to act on deepfakes or has a casual attitude to it, we have the option of blocking that platform to prevent user harm, we are ready to go to even that extent," he said.
Over the past weeks the Centre has asked platforms to act decisively on deepfakes and align their 'terms of use' and community guidelines as per the IT Rules and current laws. The government has said in clear terms that any compliance failure would be dealt with strictly and evoke legal consequences.
The issue of deepfakes came into the public glare on Monday again when legendary cricketer Sachin Tendulkar flagged his deepfake video doing the rounds, following which Chandrasekhar assured that government will soon notify tighter rules under the IT Act to ensure compliance by platforms.

 

[dalvinder45]

Delhi Police on Saturday said it has arrested a man in connection with a deepfake video of actor Rashmika Mandanna that was widely circulated on social media. The accused, who is suspected to be the creator of the video, was arrested from south India and has been brought to Delhi, an official said, adding that he was being interrogated.On November 10, an FIR was registered under Indian Penal Code sections 465 (punishment for forgery) and 469 (forgery for purpose of harming reputation) and sections 66C and 66E of the Information Technology Act at the Intelligence Fusion and Strategic Operations (IFSO) Unit of the Delhi Police's Special Cell. Soon after registering the FIR, the IFSO Unit wrote to Meta to get the URL and other details to identify the accused who made the video and put it on the social media, officials added.

When ChatGPT made headlines earlier this year, it marked how people could use generative artificial intelligence (AI) in their daily lives. Headlines now speak of how AI is being used for 'deepfakes', or the manipulation of voice and facial data. The technology has been around since 2017, but what has shocked India is how easily it can be used to spread disinformation, harass or blackmail people.
Public uproar began last month when a fake video of actor Rashmika Mandanna surfaced. Her picture was morphed over that of British Indian social media personality Zara Patel.
Fake videos of actors Katrina Kaif and Kajol followed soon. Earlier, in July, Tamil Nadu Minister Palanivel Thiagarajan alleged that a fake audio recording of him had been made public.Deepfakes could be a hazard in a country heading to general elections next year and with a growing Internet user base. 'Deepfake is a big concern. AI has to be safe for the public,' said Prime Minister Narendra D Modi last month.

'With free software on the Internet and apps, creating a deepfake video can take 3 to 5 minutes. Anyone can make these videos.'
"Two-three years ago creating a deepfake video would take 15-20 days, but with free software on the Internet and apps, this has been crunched to three to five minutes. Absolutely anyone can make these videos," said Divyendra Singh Jadoun, founder of The Indian Deepfaker, which uses the technology for advertisements and marketing and works with firms like Tata Tea, Wakefit, and with political parties to send personalised messages.
Deepfakes comprise just 0.09 per cent of all cybercrimes, but are alarming because they enable lifelike impersonations, said a recent study by the Future Crime Research Foundation (FCRF).

"Despite its relatively small presence, the impact of deepfake crimes is profound, warranting proactive measures to safeguard individuals and maintain digital trust," said Shashank Shekhar of FCRF.

Deepfake online content increased by 900 per cent between 2019 and 2020, according to a blog post by the World Economic Forum. Researchers predict that 'as much as 90 per cent of online content may be synthetically generated by 2026'.

Last year, as many as 66 per cent of cybersecurity professionals experienced deepfake attacks on their organisations.

This year, 26 per cent of small and 38 per cent of large companies worldwide have experienced deepfake fraud resulting in losses of up to $480,000, said the WEF blog post.

Jadoun realised the impact a deepfake can have when he once created such a video of actor Salman Khan wishing people on Eid.

'It was a very low quality video and I just uploaded it on Moj [an online video platform]. Within a few days I received a total of 400 comments, of which 300 believed that it was the real video. This was scary,' he said.
Information Technology Minister Ashwini Vaishnaw said the government 'within a short time' will have a new set of regulations for deepfakes.

The new rules will penalise the creator of deepfakes and the platforms hosting such content.

Rajeev Chandrasekhar, minister of state for electronics and information technology, said his ministry would develop a platform where users could be notified about rule violations by social media platforms.

Meanwhile, social media players too are fighting back. In the second half of 2023, YouTube removed more than 78,000 videos that violated its manipulated content policies. It also removed 963,000 videos for spam, deceptive practices and scam.

The Google-owned video platform will over the months introduce updates that inform viewers when the content they are viewing is synthetic. It will ask creators to disclose when they have altered or used synthetic content that appears realistic, including by using AI tools.

'Creators who consistently choose not to disclose this information may be subject to content removal, suspension from the YouTube Partner Program, or other penalties,' said the platform in a blog post.

YouTube will make it possible to request the removal of AI-generated or other synthetic or altered content that simulates an identifiable individual, including their face or voice.

Google is investing in detection tools like SynthID, which identifies and watermarks AI-generated images.

In May, Google said it was making progress in building tools to detect synthetic audio.

Google's 'About this Image' feature gives context to evaluate online visuals. It tells users when an image was first indexed by Google, where it may have first appeared, and where else it has been seen online.

Meta, which owns Instagram and Facebook, has announced that a new policy from next year will require advertisers to disclose digital alteration of content on its platforms.

Advertisers will have to disclose whenever a social issue, electoral, or political ad contains a 'photorealistic' image or video, or audio digitally created or altered to depict a real person.

Pictures and videos depicting a real person or event that did not happen, or altered footage of a real and genuine event will also have to be reported on Meta platforms.

'We're announcing a new policy to help people understand when a social issue, election, or political advertisement on Facebook or Instagram has been digitally created or altered, including through the use of AI,' said the company.

Will governments and companies be able to contain deepfakes?
Regulations against the misuse of deepfake technology are uneven and vary in jurisdictions, said Kumar Ritesh, founder and chief executive officer of Cyfirma, a cybersecurity firm.

The government should invest in public awareness campaigns.