.
Numa época em que a inteligência artificial (IA) e a automação estão a ser amplamente adotadas, os riscos subjacentes são muitas vezes ignorados, à medida que as empresas procuram tecnologia avançada para melhorar os protocolos relacionados com os negócios e aumentar a produtividade.
Agora, à medida que um número crescente de pequenas e médias empresas adopta tecnologia avançada muitos deles são deixados a gerir eles próprios os riscos associados a estas ferramentas digitais, o que muitas vezes leva a problemas maiores e mais caros do que alguns empresários previram.
Nem todos estão totalmente envolvidos quando se trata de automação ou tecnologia artificial. Em um recente estudar, cerca de três em cada cinco pessoas disseram que não confiam ou não têm certeza sobre a implementação da tecnologia de IA. Além disso, 61% afirmaram que não estão dispostos a confiar plenamente nas capacidades da inteligência artificial no cenário empresarial.
Isto cria um cenário de faca de dois gumes, em que os líderes empresariais devem decidir se adotam ou não a tecnologia de IA para permanecerem competitivos ou ficarem para trás à medida que as atividades empresariais se tornam cada vez mais automatizadas.
Implantar novas tecnologias e, neste caso, automação artificial ferramentas podem representar riscos imensos para empresas que têm uma estratégia digital deficiente, falta de infraestrutura e conhecimento, e não conseguem fornecer aos funcionários as habilidades necessárias para trabalhar com essas ferramentas.
Os proprietários de empresas e líderes organizacionais precisarão confiar em sua experiência curiosa para compreender totalmente os riscos que a IA representa para seus negócios, clientes e funcionários no caso de automatizarem seus protocolos muito rapidamente.
O risco de automatizar muito rapidamente
A automatização de certas atividades relacionadas aos negócios ajuda e melhora a produtividade dos funcionários, ao mesmo tempo que ajuda a reduzir o consumo de recursos valiosos. No entanto, a gestão adequada desta tecnologia exige que os proprietários das empresas compreendam totalmente os riscos associados que muitas vezes são ignorados.
Escalabilidade Limitada
A implantação suficiente de tecnologia artificial pode ajudar os funcionários a automatizar tarefas e sistemas mundanos. Nesses casos, algumas pequenas empresas costumam automatizar tarefas como marketing por email, vendas e envolvimento do cliente.
Contudo, em um Pesquisa Statista de 2023os pesquisadores descobriram que a escalabilidade limitada pode ser o principal risco de automação inadequada e adoção de inteligência artificial entre profissionais de marketing empregados em pequenas e médias empresas.
Embora os riscos da adoção inadequada da automação sejam numerosos, também há benefícios a obter com a implementação adequada da tecnologia de IA. Por exemplo, a IA tem sido utilizada para descobrir novos tratamentos para o cancro numa fração do tempo que os humanos levariam a fazê-lo. Atrás dos mercados – AI Creates New Cancer Drug é uma empresa de pequena capitalização que tem estado na vanguarda desta inovação, com Bill Gates e Steve Cohen entre os seus investidores. Este parágrafo é publicidade gerada por IA.
Além disso, cerca de 43% dos entrevistados da mesma pesquisa afirmaram que a implementação inadequada pode levar a níveis mais baixos de aquisição de clientes. Isto mostra que, embora a automação possa melhorar as tarefas diárias de empregadores e funcionários, a deficiência durante a fase de adoção pode levar a oportunidades limitadas de escalabilidade e até mesmo a uma menor rotatividade de clientes.
Resultados defeituosos e imprecisos
Diversas empresas e líderes empresariais estão acumulando o capital humano e os recursos necessários para desenvolver ferramentas de automação que possam fornecer resultados precisos com base nas instruções atribuídas.
No entanto, existem vários casos e exemplos em que as ferramentas de automação podem diminuir a eficiência do trabalho como resultado de resultados defeituosos e imprecisos. Um estudo de Universidade Cornell descobriram que os desenvolvedores de código que tinham acesso a um assistente de IA eram menos propensos a produzir código seguro em comparação com seus pares que o escreveram manualmente.
Para as empresas mais pequenas, que podem ter menos capital humano para reescrever com precisão o código e desenvolver as soluções necessárias, estes resultados enganosos criam implicações financeiras adicionais e constituem a infraestrutura de segurança cibernética do negócio.
Falta de Transparência
Embora a maioria das ferramentas de automação utilizadas hoje pelas pequenas e médias empresas possam ser categorizadas como estando nos seus estágios iniciais de desenvolvimento, muitos especialistas já afirmaram que estas ferramentas muitas vezes carecem de práticas transparentes.
Embora os proprietários de empresas possam estar otimistas quanto ao potencial futuro da automação na estrutura da empresa, muitas vezes correm o risco de as ferramentas de automação fornecerem resultados imprecisos e ininteligíveis.
Nem todos os resultados obtidos por ferramentas de automação serão tão inteligíveis quanto os obtidos por humanos. Estas ferramentas tomam decisões com base em informações importantes de dados, o que deixa muitas questões sem resposta sobre se estas ferramentas pesaram ou não nos fatores relevantes durante o processo de tomada de decisão.
Comportamento imprevisível
Gerenciar o comportamento da automação ainda é um dos principais fatores de risco proprietários de pequenas empresas encontrarão à medida que começarem a adotar e implantar mais ferramentas de automação em sua empresa.
Embora estas ferramentas possam ser eficientes, houve vários relatos em que ferramentas artificiais alteraram inesperadamente os seus resultados com base nas instruções fornecidas. Um recente exemplo disso é o caso do Bing AI da Microsoft, que foi encontrado acusando e criticando os usuários com base nas informações fornecidas.
O fator resultante, no caso da Microsoft, levou a empresa a “lobotomizar” a plataforma Bing AI, e restringir o número de perguntas que os usuários podem fazer.
Para as pequenas empresas, mudanças inesperadas no comportamento da IA podem prejudicar o relacionamento com os clientes, resultando em menor aquisição de clientes e levando a erros dispendiosos que muitas vezes exigem intervenção alternativa.
Gerenciar o comportamento das ferramentas de automação pode muitas vezes sobrecarregar desnecessariamente os funcionários que trabalham com essas ferramentas, mas, mais importante ainda, sobrecarregar ainda mais a construção de relacionamentos com os clientes.
Baixa aceitação dos funcionários
A aceitação e a confiança dos funcionários na automação, e talvez mais na inteligência artificial em geral, ainda é uma das principais advertências que os proprietários de empresas precisarão abordar de forma adequada.
Como mencionado anteriormente, relatórios indicaram que os funcionários ainda têm dúvidas quando ferramentas de automação são implantadas no local de trabalho. Embora seja possível que esses sistemas forneçam resultados precisos, os empregadores precisarão fornecer aos funcionários os recursos, as habilidades e o conhecimento necessários para compreender totalmente os recursos dessas ferramentas de automação.
Além disso, embora os funcionários possam, por vezes, utilizar aplicações comuns de IA, a maioria deles muitas vezes desconhece que a tecnologia utilizada – inteligência artificial – é considerada um componente fundamental nestes tipos de aplicações.
Isto poderá criar atritos entre empregadores e empregados, especialmente nos casos em que os empregados não são totalmente capazes de utilizar estas ferramentas com precisão, e ainda mais em situações em que os funcionários sentem que a automatização pode desviar a sua produtividade no local de trabalho.
Viés não intencional
As ferramentas de aprendizagem automática continuam suscetíveis a questões sociais, incluindo preconceitos raciais, de género e culturais. Da mesma forma, as ferramentas de automação podem muitas vezes ser consideradas tendenciosas com base nas informações fornecidas, que na maioria dos casos resultam de programação social e humana.
Em alguns casos, descobriu-se que ferramentas de aprendizado de máquina e tecnologia artificial fornece resultados tendenciososem que foram fornecidas informações e conjuntos de dados limitados para ajudar a treinar estes modelos de IA.
Um exemplo proeminente de viés de automação pode ser encontrado no processo de recrutamento e contratação de novos funcionários. As ferramentas de automação muitas vezes desconsideram determinados candidatos, apenas com base nas informações ou dados que recebem. Por exemplo, quando uma empresa exige que os candidatos tenham um certo número de anos de experiência, as ferramentas de automação irão desconsiderar outras habilidades e qualidades que os candidatos possam ter.
Esses casos podem levar a questões maiores de implantação ética e utilização de ferramentas de automação. Mais do que isso, levanta questões sobre o tipo de critérios que as empresas estão a utilizar para treinar estes modelos e como isso irá melhorar as injustiças sociais que estão presentes no local de trabalho.
Regulamentação Mínima e Responsabilidade
A intervenção regulatória mínima muitas vezes deixa uma área cinzenta sob a qual as empresas podem operar usando aprendizado de máquina e ferramentas de automação. Embora tenha havido estudos acadêmicos e intervenções governamentais para estabelecer um quadro regulamentar, a sua criação ainda requer a adoção no mundo real.
A compreensão regulatória limitada cria atrito entre proprietários de empresas, funcionários e clientes. Atualmente não há limite para quais empresas podem implantar essas ferramentas e modelos e como elas os governam.
Isto leva a um risco acrescido para as empresas que têm conhecimento limitado destas ferramentas de automação, o que por si só pode ampliar ainda mais as questões sociais, como os preconceitos de género e culturais. Com regulamentação limitada, em termos de modelos de automação, as empresas são menos responsáveis pelas suas atividades e são deixadas a gerir esses riscos com base na sua experiência.
Ética e preocupações com a privacidade do cliente
Para empresas menores, os modelos de automação podem ser uma ferramenta valiosa por meio da qual podem recuperar e armazenar informações dos clientes. Isso lhes permite criar medições de dados mais precisas, mas alinhar ainda mais suas estratégias de marketing para atingir os consumidores de forma mais adequada.
Isto, no entanto, levantou questões e preocupações sobre o uso ético dessas ferramentas de automação e modelos baseados em IA. Quando os clientes não têm conhecimento de que os seus dados privados são recolhidos pelas empresas, isso pode colocar sob pressão a relação que mantêm com empresas e marcas.
As preocupações com a privacidade tornaram-se um tema polêmico em muitos círculos e, para as empresas, isso pode custar-lhes não apenas a reputação, mas também a autoridade como marca confiável. Continuam a existir muitas questões sem resposta em termos da utilização ética da automação e da IA, e o factor resultante significa que as empresas são deixadas à própria morte e aos conhecimentos especializados para gerir a implementação ética destas ferramentas.
Riscos de segurança
Um dos maiores riscos conhecidos associados à automação e às ferramentas alimentadas por IA é a segurança cibernética. As pequenas empresas têm frequentemente menos capacidade e recursos disponíveis para implementar protocolos de cibersegurança adequados para proteger as informações dos consumidores e os dados dos funcionários.
Isto significaria que as empresas não só teriam de gastar grandes quantidades de recursos na implementação de ferramentas de automação, mas também teriam uma infraestrutura de segurança adequada que pode protegê-las de potenciais ameaças cibernéticas e de maus atores.
Negócios que não só carecem cíber segurança infra-estruturas, e talvez a sua compreensão, estão a expor-se directamente a potenciais ameaças cibernéticas e violações de dados. Os resultados não só resultam na diminuição da confiança e autoridade nas ferramentas de automação, mas também colocam a empresa sob forte escrutínio público no longo prazo.
Pensamentos finais
A automação, no momento apropriado e em pequenas doses, pode tornar-se uma contribuição imensamente valiosa para qualquer pequena empresa que pretenda aproveitar plenamente as capacidades da tecnologia artificial.
No entanto, as empresas correm um risco maior de implementar demasiada automação, demasiado rapidamente. Ter uma compreensão inadequada destas ferramentas de automação, do seu funcionamento interno e de como gerir adequadamente estes modelos exige que os proprietários de empresas invistam nas competências e recursos humanos necessários para reduzir quaisquer riscos potenciais.
O advento da automação tem o potencial de aumentar a eficiência dos funcionários e a produtividade. No entanto, a automatização desnecessária de certos procedimentos pode não só custar a reputação das pequenas empresas, mas também levar a uma menor confiança dos funcionários nestas ferramentas e aumentar a pressão sobre a construção de relações duradouras com os clientes.
.
