Siri AI atrasada por causa da segurança?

Os atrasos da Apple no lançamento da Siri AI podem estar relacionados com os receios dos riscos de segurança.

A Apple tem sido criticada por estar muito atrás de empresas como a Microsoft, Google, e até a Amazon, a nível da modernização dos assistentes Ai, já tendo confirmado que a Siri está bastante atrasada, ao ponto de já afectar o lançamento de novos produtos. Os motivos para tais demoras podem ser muitos, mas há que acredite que a razão principal esteja relacionada com as questões de segurança.

Bem sabemos como a Apple é aversa à abertura dos seus produtos, sempre tendo combatido o "jailbreak" (embora, ocasionalmente, lá fosse buscar boas ideias às modificações não-oficiais feitas pela comunidade), e mesmo agora que foi obrigada a permitir app stores alternativas na UE (e em breve no Brasil), vai fazendo-o da "pior forma" possível. E aquilo que agora lhe parece estar a complicar os planos, é a imprevisibilidade do funcionamento dos modelos AI.

Até agora, e por muitos esforços que as empresas AI tenham feito, tem sido inevitável que os modelos AI rapidamente sucumbam ao "jailbreak" - que neste caso se refere a desbloquear os modelos AI de forma a que respondam a coisas que não deveriam responder (como: como fazer bombas, drogas, etc.) Isso significa que uma eventual Siri AI também rapidamente sucumbisse a esses ataques. A questão é que, com as permissões que a Apple tem dado à Siri a nível de interacções com o sistema e apps, abre-se a possibilidade desse desbloqueio possibilitar uma infinidade de novos tipos de ataques. Por exemplo, talvez fosse possível convencer a Siri a enviar as fotos mais sensíveis do utilizador para um qualquer destino, ou que enviasse toda a sua lista de contactos para um serviço de spam, ou muitas outras coisas mais criativas.

A grande questão é que, se a Apple realmente quiser lançar uma Siri AI à altura dos assistentes AI existentes (ChatGPT, Gemini, Copilot, Claude, DeepSeek, Grok, etc.) não haverá forma segura de evitar que isto possa acontecer. Em alternativa, terá que optar por um modelo severamente limitado, que resultará numa chuva de críticas por ser "pré-histórica" face aos demais modelos (tal como já o é actualmente). Por agora, a Apple ganha (perde!) mais um ano para tentar resolver este, e outros, problemas. Mas, um ano neste sector em rápida evolução é demasiado tempo, e nem sequer se pode imaginar como actuais modelos AI estarão por essa altura.