Categoria Notícias

Os geradores de imagens de IA se tornaram populares, como a famosa ferramenta Midjourney, que ostenta o número de mais de 14,5 milhões de usuários.

O desenvolvimento cada vez mais rápido das ferramentas de inteligência artificial (IA) tem criado um temor crescente: o aperfeiçoamento das imagens “deep fake” a um ponto em que seja quase impossível diferenciá-las de registros reais.

Para tentar combater isso, o Google está testando uma marca d’água digital para detectar e sinalizar imagens feitas por IA.

Desenvolvido pela Deepmind, o braço de IA do Google, o SynthID identificará imagens geradas por máquinas.

Ele funciona incorporando alterações em pixels individuais nas imagens, de modo que as marcas d’água sejam invisíveis ao olho humano, mas detectáveis pelos computadores.

Mas a DeepMind disse que o sistema não é “infalível contra a manipulação extrema de imagens”.

À medida que a tecnologia evolui, torna-se cada vez mais complexo saber a diferença entre imagens reais e imagens geradas artificialmente, como mostra o questionário, em inglês, AI ou Real da BBC Bitesize.

Os geradores de imagens de IA se tornaram populares, como a famosa ferramenta Midjourney, que ostenta o número de mais de 14,5 milhões de usuários.

Eles permitem que as pessoas criem imagens em segundos, inserindo instruções de texto simples. Isso levanta questões sobre direitos autorais e propriedade em todo o mundo.

O Google possui seu próprio gerador de imagens chamado Imagen. O novo sistema de criação e verificação de marcas d’água só se aplica a imagens criadas com esta ferramenta.

Invisível

Marcas d’água são normalmente um logotipo ou texto adicionado a uma imagem para mostrar a propriedade, além de parcialmente dificultar a cópia e uso da imagem sem permissão.

Elas estão nas imagens usadas no site da BBC News, que geralmente incluem uma marca d’água de direitos autorais no canto inferior esquerdo.

Mas esses tipos de marcas d’água não são adequados para identificar imagens geradas por Al porque podem ser facilmente editadas ou recortadas.

As empresas de tecnologia usam uma técnica chamada hashing para criar “impressões digitais” de vídeos de abuso conhecidos, para que possam identificá-los e removê-los rapidamente, caso comecem a se espalhar online.

Mas esses também podem ser corrompidos se o vídeo for cortado ou editado.

O sistema do Google cria uma marca d’água efetivamente invisível, que permitirá que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.

Pushmeet Kohli, chefe de pesquisa da DeepMind, disse à BBC que seu sistema modifica imagens de maneira tão sutil “que para você e para mim, para um ser humano, não muda nada”.

Ao contrário do hashing, disse ele, mesmo depois que a imagem é posteriormente cortada ou editada, o software da empresa ainda pode identificar a presença da marca d’água.

“Você pode mudar a cor, pode mudar o contraste, pode até redimensioná-lo… [e o DeepMind] ainda será capaz de identificar que é gerado por IA”, disse ele.

Mas ele alertou que este é um “lançamento experimental” do sistema e que a empresa precisa que pessoas o utilizem para entender o quão robusto ele é.

Padronização

Em Julho, o Google foi uma das sete empresas líderes em inteligência artificial a assinar um acordo voluntário nos Estados Unidos para garantir o desenvolvimento e utilização seguros da IA, que incluía garantir que as pessoas fossem capazes de detectar imagens feitas por computador por meio da implementação de marcas de água.

Kohli disse que essa foi uma medida que reflete esses compromissos, mas Claire Leibowicz, do grupo Partnership on AI, disse que é preciso haver mais coordenação entre as empresas.

“Acho que a padronização seria útil para a área”, disse ela.

“Existem diferentes métodos que estão sendo testados, precisamos monitorar o seu impacto – como podemos obter melhores relatórios sobre quais estão funcionando e para que fim?”

“Muitas instituições estão explorando métodos diferentes, o que acrescenta dois graus de complexidade, já que nosso ecossistema de informação depende de métodos diferentes para interpretar e definir se o conteúdo é gerado por IA”, disse ela.

A Microsoft e a Amazon estão entre as grandes empresas de tecnologia que, assim como o Google, se comprometeram a colocar marcas d’água em alguns conteúdos gerados por IA.

Além das imagens, a Meta publicou um artigo de pesquisa para seu gerador de vídeo inédito Make-A-Video, que afirma que marcas d’água serão adicionadas aos vídeos gerados para atender a demandas semelhantes de transparência em trabalhos gerados por IA.

A China proibiu completamente as imagens geradas por IA sem marcas d’água no início deste ano, com empresas como a Alibaba aplicando-as a criações feitas com a ferramenta de conversão de texto em imagem de sua divisão de nuvem, a Tongyi Wanxiang.

Fonte: G1

Para separar o hacker ‘do bem’ e ‘do mal’, foram criados os termos white hat, grey hat e black hat, que organizam as atividades; veja o que cada um significa.

Embora seja popular e conhecido há muito tempo, o termo “hacker” tem outros significados e ainda gera confusões de entendimento na comunidade.

Em termos gerais, o “hacker” é aquela pessoa que busca falhas de segurança e ajuda a empresa a resolver essas vulnerabilidades. Enquanto, o “cracker” é o “hacker do mal”, que rouba senhas e implementa vírus, por exemplo.

Esses nomes foram subdivididos em “chapéus”: white hat, grey hat e black hat, que organizam essas atividades.

O que é um ‘hacker’

Começando pelo mais popular, “‘hacker” é o nome que foi dado para a pessoa que fuça em sistemas computacionais. Normalmente, o objetivo de um hacker é fazer com que um sistema faça algo que não foi projetado para fazer”, explica Lucas Lago, membro do Instituto Aaron Swartz de Ciberativismo.

Popularmente, ele é chamado de “hacker ético” ou “hacker do bem”. Até mesmo empresas de tecnologia costumam adotá-los em competições de busca de falhas de segurança em seus sistemas. Só que, ao mesmo tempo, ambos são considerados negativos pela comunidade de cibersegurança:

“Isso porque não existe ‘hacker do bem’ e ‘hacker do mal’. O ‘hacker do mal’ é meramente um criminoso. Ninguém fala ‘frentista do bem’ e ‘frentista do mal’, por exemplo”, diz Marina Ciavatta, especialista em conscientização em segurança da informação.

E o ‘cracker’ nessa história?

Já o “cracker” seria o hacker mal-intencionado, que aproveita dessas habilidades computacionais para obter vantagens e causar danos.

“Nesse caso, é a pessoa que explora vulnerabilidades para o mal, para extorquir, difamar, para vazar informação confidencial, por exemplo”, explica Angelo Zanini, coordenador do curso de engenharia de computação do Instituto Mauá de Tecnologia (IMT).

Geraldo Guazzelli, diretor-geral da Netscout Brasil, explica que, muitas vezes, os “crackers têm as mesmas capacidades, aptidões e conhecimento técnicos de um hacker”.

Classificação de chapéus

Como alternativa ao “hacker ético” e ao “cracker”, foram criados três termos menos polêmicos: white hat, grey hat e black hat. Traduzindo para português, chapéu branco, chapéu cinza e chapéu preto, respectivamente. Veja o que é cada um:

• White hat: é o mesmo que o “hacker ético”, um profissional de segurança dedicado apenas a proteger sistemas;
• Grey Hat: é a pessoa que vai mexer em sistemas que estão no ar, sem autorização. Mas ao descobrir uma falha, vai reportar aos responsáveis ou fazer algo que comprove a falha, mas sem efeito nocivo – aqui vai entrar a maioria dos pesquisadores independentes, explica Lucas Lago.
• Black hat: é o criminoso. É a pessoa que vai abusar de sistemas para benefício próprio.

“Sendo assim, ‘cracker’ seria o ‘black hat’. Eu gosto da classificação dos chapéus porque ela dá a ideia de que uma pessoa pode transitar livremente entre eles. Não é um negócio estático”, explica Lago.

“Por exemplo, um pesquisador que na universidade é um white hat pode no tempo livre atuar como gray hat – mas vai continuar sendo um hacker“, finaliza.

Fonte: G1

Comentário feito por usuários e anexado à publicação do bilionário contextualiza que decisão pode trazer problemas à rede social em plataformas da Apple e do Google.

O bilionário americano Elon Musk anunciou seu desejo de excluir a função bloquear do X (antigo Twitter), rede social de sua propriedade. Com ela, pessoas podem impedir que determinados usuários vejam suas publicações ou receber mensagens deles.

O “block (bloquear) será uma função excluída, exceto pelas DMs”, em referência às mensagens diretas entre usuários da rede, publicou Elon Musk na sexta-feira.

O recurso que permite bloquear foi projetado para restringir a interação entre determinadas contas na plataforma.

A publicação de Musk, no entanto, depois recebeu um anexo feito pelos usuários da rede social sobre como a decisão pode prejudicar o aplicativo.

“Se a habilidade de bloquear usuários fosse removida, X estaria em violação das políticas da App Store (da Apple), assim como da Play Store do Google. Potencialmente, isso poderia fazer com que o X fosse removido dessas plataformas”, diz um contexto adicionado pelos usuários que aparece junto do post do empresário.

“Não há políticas do tipo para o aplicativo para navegadores, no entanto.”

Musk, que comprou o Twitter por US$ 44 bilhões em outubro de 2022 (R$ 231,8 bilhões, na cotação do mesmo período), e renomeou como X, sempre justificou as mudanças na plataforma por seu desejo de maximizar a liberdade de expressão.

A rede social, usada mundialmente por pessoas das mais variadas esferas, viu sua receita publicitária despencar desde que o bilionário assumiu o controle – em parte como resultado do incentivo a todas as formas de expressão, que inclui discurso de ódio, e o retorno de contas de usuários extremistas.