SET Centro-Oeste: Regulação de IA e Plataformas digitais
ChatGPT, datificação, algoritmo de representação, fakenews, inteligência artificial generativa (IAG), e hiperpersonalização debatidos em Brasília.
O segundo painel do SET Centro-Oeste, que se realizou em Brasília, nesta quinta-feira, 22/6, foi moderado por Cristiano Flores, Diretor Geral da ABERT, e teve a participação de Marcelo Bechara, Diretor de Relações Institucionais da Globo; Fabricio da Mota Alves, Sócio coordenador de Direito Digital no Serur Advogados, Conselheiro Titular no Conselho Nacional de Proteção de Dados Pessoais e da Privacidade e Ana Frazão, Professora da UnB.
O painel começou com a palavra de Flores, que disse que a Inteligência Artificial “permeia a sociedade” e que a sociedade não sobreviveria sem ela, mas “ela tomou outras proporções quando nasce o ChatGPT, que potencializa a ferramenta”. Segundo ele, na mídia pode ser bom, mas “temos desafios concretos, pensando em mecanismos que foquem na boa utilização da tecnologia para evitar as fakenews, e relacionados à dimensão ética e filosófica que envolve o debate sobre a liberdade que podemos dar a esta ferramenta”.
A professora Ana Frazão fez um overview sobre a utilização da inteligência artificial na sociedade, desde “uma simples busca até a inteligência artificial generativa. Essas utilizações já fazem parte do dia-a-dia, e muitos de nós não saberíamos viver sem elas, mas há riscos e incertezas, por isso temos de avaliar os riscos”.
Segunda ela, a “IA já interfere em processos de RH, com decisões como a precificação de produtos, com precificação personalizada, o que pode ser dada por máquinas”, até porque estas decisões são “subjetivas e valorativas”, porque “julgam pessoas”.
“Vivemos um processo de datificação”, que gera inferências sobre “todos nós, o que gera um problema de privacidade, em termos de autodeterminação informativa, isto é, o controle dos dados”. Outro ponto é que “há problemas de isonomia com discriminações algorítmicas, e estamos falando ainda de nossa liberdade, em relação de livre arbítrio, porque esta tecnologia é utilizada para manipular consciências”. Sendo assim, “falamos de uma tecnologia promissora, mas bastante importante porque delegamos funções utilizando ferramentas, como o ChatGPT”.
Ela fechou falando que “é preciso ter incertezas e considerar os riscos. Por isso, há que ter uma regulação da inteligência artificial, porque o mercado não fará isso. Precisamos conciliar tecnologia com riscos e segurança”.
O Conselheiro Titular no Conselho Nacional de Proteção de Dados Pessoais e da Privacidade, Fabricio da Mota Alves, disse em Brasília que o Brasil tem um interessante cenário regulatório, e disse que “o País ainda não tem uma abordagem, mas o mais proeminente surgiu na Câmara”. Segundo ele, há um avanço, mas “quando chegou ao Senado, percebeu-se que há que se trabalhar uma proposta diferenciada, e sugeriu-se formar um comitê de juristas”.
Ele disse que o modelo atual é a PL 2338, que “passou a ser o texto mais relevante”, mas “precisamos ter uma organização” para “propor regular sem que nasçam atualizadas”. O senado avança com a tramitação, “haverá uma comissão especial de Inteligência Artificial que será presidida pelo Senador Carlos Viana, na qual possamos nos debruçar sobre todos os projetos” incluindo “uma política nacional” que “trabalhe a privacidade, mas sem seguir o caminho de ser mais permissivos. Necessitamos ter claro que os direitos do individuo são fundamentais. Estamos no caminho certo, a comissão de juristas trabalhou em um modelo certo e maduro, mas um trabalho meramente técnico, e o Parlamento vai trazer a parte social”.
Mota Alves finalizou a sua fala dizendo que “o governo tem de se pronunciar sobre os projetos. O Parlamento tem muita capacidade, mas o Governo Federal tem de participar”, porque é “um projeto muito maior que a proteção de dados” e que deveria existir um órgão que “faça o controle”.
Marcelo Bechara, Diretor de Relações Institucionais da Globo, disse “que é bom estar em casa. Me sinto realmente em casa”. Ele falou do ChatGPT e do Bart. “Este é um ambiente de oportunidade, mas de muito risco. Um risco que tem coisas boas para a indústria de mídia, gerando uma melhoria muito grande”. De fato, disse, “estas ferramentas de inteligência artificial generativa, que aceleraram o processo por conta do ChatGPT, mas está não é a única. Há mais de mil ferramentas deste tipo”.
Ele pensa que, no caso da inteligência artificial, a regulação deve ser feita antes do amadurecimento da tecnologia. “O que assusta é a hiperpersonalização”, mas, disse ele, “o impacto na mídia começou com o algoritmo de recomendação”. Na nossa indústria, disse Bechara, “os dubladores vão desaparecer. Haverá impacto na criação de roteiros, porque a IAG cria baseada em dados que já existem”.
Outro ponto destacado pelo executivo da Globo foi que “há 100 jornais digitais que não tem nenhum jornalista. Tendo isso em conta, o que estamos debatendo é direito autoral, ou seja, a quem pertence o conteúdo”, e quem e como será remunerada a criação de conteúdo gerado por estas novas ferramentas.
Por Fernando Moura e Tito Liberato
