Sadhguru sobre... tanta coisa

 

Sobre Viver

 Viver

Sobre viver...

Crescer, 

é sobre viver.

Conhecer a si, 

é sobre viver.

Conhecer a natureza, o Universo,

é sobre viver.

Acalmar a mente,

focar na gente, 

é sobre viver.

Somos efêmeros demais

preciosos demais

insignificantes demais

para desperdiçarmos a oportunidade

A oportunidade que precisou de tanto tempo,

pra forjar o carbono, hidrogênio, oxigênio,

pra iluminar o sistema solar, 

pro nosso planeta formar, 

crescer e aflorar, 

e então a gente chegar...

e achar que sempre foi assim

às vezes se arrastar,

somente sobreviver, 

também é sobre viver.

ouça sua voz

conheça seu caminho

todos vamos embora

mesmo que devagarinho

não perca tempo

não tenha pressa.

(E quando então partimos,

poeira tornamos outra vez,

retornando ao mesmo lugar

que nos deu a chance de ser.)

Alan Watts - Previsões Sobre o Futuro

 

Alan Watts - Reflexões Sobre a Vida e a Morte

 

A Savana - The Veldt

 Não sou muito ligado nas redes sociais, mas eventualmente vejo alguma coisa aleatória pra desvirtuar um pouco a mente antes de dormir. 

Esses dias tive uma surpresa, de ter contato com um vídeo curtinho que me apresentou diversas figuras diferentes, uma melhor que a outra.

Primeiro, o começo. O vídeo em questão é uma versão resumida de uma live que um carinha chamado Joel Thomas Zimmerman, conhecido como deadmau5 fez. 

Melhor do que falar é mostrar, então segue o vídeo do momento mágico que certamente fez com que mais pessoas, assim como eu, conhecessem as pérolas que são o livro (de 1950) e a música (de 2012). 

Basicamente, um carinha (chamado Chris James) fez a letra baseado na história do livro "The Veldt", escrito por Ray Bradbury e gravou os vocais da música. Por um triz deadmau5 não dispensou a audição online, mas a situação foi de 0 a 100 em segundos. 

(A Savana - The Verld - Ray Bradbury - 1950 - versão traduzida pode ser encontrada aqui) 

O livro é uma história curta sobre uma sala que faz você se sentir em qualquer ambiente, em uma casa super tecnológica do futuro. Tem que ler. 

O resultado final? Algo digno de série, que só o mundo Nerd Digital é capaz.

Armadilha do Marketing Multinivel

O marketing multinível, também conhecido como network marketing ou MLM, estilo aquela marca famosa e outros, é um modelo de negócios que tem sido muito criticado por suas práticas questionáveis e resultados muitas vezes decepcionantes.

O vendedor é que compra o produto, e sua sorte está lançada pelo seu sucesso sozinho. A empresa se garante, e o vendedor que se vire. Aqui estão algumas das principais armadilhas do marketing multinível:

Estrutura piramidal: A estrutura de remuneração em forma de pirâmide, toma o dinheiro dos participantes mais baixos para remunerar os que estão mais acima na hierarquia. Isso significa que a maioria das pessoas no topo da pirâmide ganha dinheiro às custas dos outros. 

Foco excessivo na recrutamento: Em vez de se concentrar em vender produtos ou serviços de qualidade, o foco é em recrutar novos membros para ingressar na rede. Isso leva a uma cultura de "venda" forçada e pode resultar em pressão sobre amigos e familiares. 

Produtos caros e de baixa qualidade: Os produtos ou serviços oferecidos pelas empresas de marketing multinível podem ser caros e não terem qualidade comparável àquela encontrada em outros lugares. 

Expectativas irreais: As empresas de marketing multinível muitas vezes prometem resultados financeiros rápidos e fáceis, mas a realidade é que apenas uma pequena minoria consegue alcançar esses resultados. 

Falta de transparência: As empresas de marketing multinível podem não fornecer informações claras sobre seus produtos, serviços ou estrutura de remuneração, tornando difícil para os membros entender como funcionam as coisas. 

Pressão para comprar estoque: Os membros podem ser pressionados a comprar grandes quantidades de produtos para "estoque" ou para atingir metas de vendas, o que pode levar a uma perda financeira significativa. 

Manipulação emocional: As empresas de marketing multinível podem usar técnicas de manipulação emocional para motivar os membros a comprar mais produtos ou recrutar novos membros. 

Despesas ocultas: Além das despesas iniciais, os membros podem enfrentar despesas adicionais, como taxas de membro, custos de treinamento e outros gastos que não são claramente comunicados. 

Falta de suporte: Os membros podem não receber o apoio necessário para alcançar sucesso em seus negócios, o que pode levar a frustração e perda de tempo e dinheiro. 

Legalidade questionável: Alguns programas de marketing multinível podem ser ilegais ou operar na borda da legalidade, o que pode levar a problemas com as autoridades. 

Nem todas as empresas de marketing multinível são ruins ou fraudulentas. No entanto, é fundamental estar ciente dessas armadilhas e fazer sua pesquisa antes de se juntar a qualquer oportunidade de negócios.

Cuide do que é seu de perto, estude, aprenda, mas principalmente, acredite na sua intuição e pense por você. Existem muitos bons vendedores, e muito que vendem ilusões. 

Como dizer NÃO

 O grande Joel Jota já diz que “o talvez é não”. Sentimos, em nosso corpo, quando uma reposta é sim ou não. Muitas vezes, devido à aprovação social, sentimos que não queremos fazer algo e acabamos por ceder, somente para manter a situação confortável. Mas isso me lembra uma história.

Antes de um vôo, os comissários de bordo realizam uma demonstração e explicação detalhada sobre o uso da máscara de oxigênio durante os procedimentos antes da decolagem para garantir que todos a bordo estejam informados sobre como usar a máscara corretamente no caso de uma emergência. Uma das instruções explicitamente fala que se você estiver acompanhado, deve primeiro colocar a máscara em si mesmo e depois nos outros. 

A razão pela qual os passageiros são orientados a colocarem a máscara de oxigênio em si mesmos antes de auxiliar outras pessoas é que, sem oxigênio suficiente para respirar, você não poderá pensar claramente, agir com eficácia ou ajudar alguém de forma significativa. Se você se desmaiar por falta de oxigênio, você não pode mais ajudar outras pessoas. 

Portanto, colocar a máscara de oxigênio em si mesmo antes é uma medida para garantir que você esteja no estado mais seguro possível para ajudar as pessoas ao seu redor.

Isso serve para o oxigênio e para tudo na vida. 

Por isso, saber dizer não é indispensável. E pode ser desafiador, especialmente se envolvermos pessoas que são importantes em nossa vida pessoal ou profissional. Ao negar uma proposta, um convite ou pedido é importante ser respeitoso e gentil, porém firme. 

Se você não estiver preparado no momento para o pedido ou situação ou estiver em público e quiser ser discreto, peça um tempo para pensar. Ganhar tempo para poder refletir em uma alternativa é melhor do que responder na pressa e se arrepender em seguida. Ou recuse amistosamente.

Seja claro. Se achar necessário, se desculpe por não aceitar e agradeça, mas não deixe espaço para que haja dúvidas da sua resposta, e se certifique que ela contenha a sua posição de o porquê de você estar rejeitando. Se possível mostre alternativas que sejam viáveis para que a questão apresentada seja resolvida sem lhe prejudique. As pessoas também começarão a respeitar mais seus limites à medida que os conhecerem. Ao respeitarmos nossos limites respeitando os limites dos outros criamos a melhor situação. Em muitas situações o que ofende não é o que é dito, mas sim o modo como é dito. Exceto em poucos casos onde eventualmente os limites estejam sendo extrapolados não haverá necessidade de palavras duras.

Aprenda a lidar com a Tristeza e Frustração

Mas como falar disso se eu não sei? Bom, não sei muito mesmo, por isso pesquisei e estou compartilhando!

Lidar com sentimentos como tristeza e frustração é uma parte natural da experiência humana. As redes sociais nos mostram “a ponta do iceberg”, as coisas boas, as que dão certo. Por baixo dessa camada, existe uma infinidade de histórias que deram errado, que tiveram um alto preço ou que não terminaram bem. Portanto, é comum falhar e errar. Existem algumas técnicas para lidar com os sentimentos que derivam dessas situações:

Aprenda a reconhecer e nomear seus sentimentos: Identifique como está se sentindo e como isso afeta suas emoções e pensamentos. Tornar-se mais consciente de seu estado emocional atual ajudará a tomar medidas para lidar com ele. Não reprima ou ignore esses sentimentos.

Faça exercícios físicos: A atividade física é uma excelente maneira de aliviar a tensão e melhorar o humor. Saia para caminhar, pratique algum esporte ou simplesmente realize alguma atividade física em casa que seja boa para você.

Pratique a meditação: A meditação ajuda a reduzir o estresse e angústia. Pode ser benéfica praticar uma técnica de meditação como o mindfulness, que envolve focar sua atenção no momento presente e no que está ocorrendo agora ao seu redor.

Libere sua criatividade: A expressão criativa pode ajudar a liberar emoções reprimidas. Você pode desenhar, escrever sobre seus sentimentos em um diário, pintar, tocar um instrumento ou fazer qualquer outra atividade criativa agradável.

Entre em contato com pessoas próximas: Compartilhe suas emoções e experiências com as pessoas mais próximas. As pessoas podem

proporcionar apoio, conselhos ou perspectivas diferentes que possam ajudá-lo a se sentir melhor.

Procure ajuda profissional: Se suas emoções de tristeza e frustração persistentes afetam sua capacidade de viver uma vida saudável, você pode querer considerar consultar um terapeuta ou outro especialista mental. Muitas vezes o que precisamos é de ajuda.

Lembrando que é importante respeitar seus sentimentos e dúvidas. Eles são parte integral da experiência humana. Ser humano é passar por tudo isso.

Resolva um problema

Se tem uma coisa que eu poderia responder com mais propriedade na série "Ninguém perguntou mas eu vou responder mesmo assim" é sobre resolver problemas, já que é meu ganha pão resolver problemas em equipamentos dos mais diversos tipos. Mas a experiência é legal por misturar vários conhecimentos, então, de acordo comigo junto com os universitários, para resolver um problema você deve:

Resolver um problema geralmente envolve dividi-lo em etapas menores. Inclusive é possível que você já perceba que o problema não é tão grande quanto parece, após ser devidamente dividido em etapas menores individuais. Identificar quando ajuda é necessária e quem pode lhe oferecer essa ajuda também é fundamental. Alguns tipos de problemas terão custos ou exigirão a contratação de profissionais.

Manter um pensamento antifrágil: acredite que se o problema surgiu, você está preparado para resolvê-lo. Imagine-se resolvendo a questão. Isso vai te energizar e dar foco no processo. Tenha um bom estado de espírito para manter seu pensamento crítico e clareza mental. Peça ajuda se necessário.

Identificar o problema: defina o problema que está enfrentando. Defina qual a causa principal. Quebre em componentes e tarefas menores. Às vezes a solução não se apresenta como imaginamos e uma tarefa pequena é mais fácil de ser contornada de maneira alternativa. Defina as consequências de não conseguir resolvê-lo. Dizem que  “Se um problema não tiver solução, então já está solucionado.” Esteja preparado para o pior caso, esperando pelo melhor.

Obter informações: Obtenha informações sobre o problema. Pesquise na internet ou converse com pessoas que passaram por situações semelhantes e veja como elas solucionaram. Consulte especialistas se for necessário. Faça uma lista de pessoas a quem pode pedir ajuda, ou empresas e profissionais que pode contratar. 

Fazer um Brainstorming: Liste as potenciais soluções de maneira livre e criativa. Faça planos diferentes, plano A, plano B e plano C se possível. Considere os prós e contras de cada solução para priorizar qual a alternativa com maior probabilidade de sucesso.

Analisar as alternativas:  veja a viabilidade de cada alternativa, o tempo e os recursos financeiros e materiais necessários. Estude qual é a mais eficiente, a mais barata, a que tem maior chance de sucesso. Defina os parâmetros relevantes de cada uma que serão considerados na escolha do caminho a seguir. Elimine as alternativas que estejam fora de escopo ou não sejam possíveis. Escolha uma solução com base em todos os dados únicos e importantes para você.

Implementar a solução: “se tiver somente um dia de vida, gaste a primeira hora planejando as outras” já me dizia meu professor Alexandre Graeml. Planeje cuidadosa e detalhadamente o plano, mentalizando as etapas para conferir se todos os detalhes foram levados em consideração. Coloque seu plano em ação, executando cuidadosamente as ações, com capricho e atenção aos detalhes. Neste momento vale a frase “vamos devagar que estamos com pressa”. Ajuste o que for necessário e reavalie em caso de imprevistos. 

Aprender com a experiência: diz um velho ditado que toda experiência vale seu preço, desde que o “aprendizado seja aprendido”. Pior do que ter um problema é ter um problema recorrente, que novamente exigirá novas medidas, mais tempo, energia e recursos. Aprenda com o problema e efetue os ajustes necessários para que não ocorra novamente.

E AI, colou?

Seja mais atraente

Da mesma série "Ninguém perguntou mas eu respondo mesmo assim"... 

usando as técnicas alienígenas de pesquisa e procura de informações 5D 

Ser atraente envolve diversos fatores, alguns que requerem mais tempo, outros quase que instantâneos. 

 Autocuidado: o autocuidado é o ponto de partida para ficar mais atraente. Existem cremes de pele que em poucas semanas devolvem a elasticidade e favorecem uma aparência melhor. Existem cortes de cabelo que podem ser utilizados para realçar ou disfarçar determinadas características. Manter uma boa higiene pessoal, cuidados com os dentes, cabelos e unhas podem dar de imediato um aspecto que o torne mais confiante. 

Aparência física: ter uma boa alimentação e praticar exercícios físicos regularmente vão lhe deixar a longo prazo com uma aparência melhor, além dos efeitos psicológicos e colaterais benéficos. Beba água, que oferece um meio para o seu corpo funcionar de forma adequada e auxilia na eliminação de resíduos. 

Confiança: sua auto estima e autoconfiança serão determinantes. Ela lhe fará utilizar uma linguagem corporal mais assertiva e melhorar seu estado emocional e estilo de vida. Postura e comunicação: De acordo com a palestrante Amy Cuddy, cuja palestra no Ted Talks é “Sua linguagem corporal molda quem você é”, uma impressão confiante não só muda a impressão que os outros têm de você, mas muda sua própria auto concepção e identidade. Uma postura erguida inspira muito mais confiança, fazendo diferença de imediato. Um sorriso também é muito cativante, e junto com um olhar direto pode fazer com que tenham uma percepção mais positiva a seu respeito. 

Atitude: ser coerente, saber dizer não e impor limites, saber o que quer. Manter emoções positivas, ser grato, gentil e manter um foco otimista sem ser tóxico ou falso também são maneiras de imediatamente ter uma apresentação mais positiva. 

Habilidades: ter habilidades como boa comunicação, saber alguma arte marcial, tocar algum instrumento, dançar, patinar, andar de skate, surfar, saber ouvir, ter empatia, ou ter alguma habilidade ou hobbie que você goste também lhe tornam mais atraente.

Palestra Ted Talks sobre linguagem corporal e postura

Seja mais feliz

 “Alice perguntou:

• Gato Cheshire… pode me dizer qual caminho eu devo tomar?

• Isso depende muito do lugar para onde você quer ir. - disse o gato.

• Eu não sei pra onde ir! - respondeu Alice

• Ora, ora. Se você não sabe pra onde quer ir, qualquer caminho serve!”

(Alice no País das Maravilhas, Lewis Carroll)

A maior parte das pessoas busca alegria e plenitude. Para isso várias áreas devem ser levadas em conta, como relacionamentos, carreira, finanças e bem estar geral. 

Saúde: Em primeiro lugar, cuide da sua saúde. Nenhuma fortuna compra a saúde física e mental. Faça exercícios. Busque ajuda profissional de médicos e psicólogos sempre que achar necessário. Se alimente bem.

É você com você: Melhore gradativamente seu estilo de vida, se alimentando melhor, se exercitando e se cuidando. Você é influenciado pelas pessoas e ambientes em que se envolve. Cuide de se aproximar do que deseja e de se afastar do que não deseja. Tome a responsabilidade para si: Se não se cuidar, dificilmente alguém irá fazê-lo por você. A métrica não é ser melhor que os outros. É ser o melhor que dá com o que somos. Melhor que ontem. Só. 

Ter reconhecimento e respeito é muito importante. Mas suas conquistas devem estar, acima de tudo, voltadas para você. Saber dizer sim e não, escolher os seus limites e obter as respostas para sua vida não podem estar nas mãos de mais ninguém: tome para você a responsabilidade sobre sua vida, em todas as áreas. 

Os erros são normais.

Perdoe e se perdoe. 

Goste e se goste. 

Admire e se admire. 

Seu auto reconhecimento e respeito a si são fundamentais.

Propósito: Tenha um propósito na vida. Seja viajar o mundo, seja ficar rico, seja se formar, seja o que for. Ter uma missão pessoal ajuda a superar os desafios e encarar os obstáculos com mais resiliência. 

Aprenda uma nova habilidade. Aprender sempre lhe coloca em uma posição melhor. Aprender um instrumento musical ou algum tipo de arte pode lhe ajudar a extravasar as emoções e frustrações, além de ajudar a progredir na vida pessoal e profissional, e certamente lhe trará muitos benefícios para a auto estima e muitos frutos futuros. 

Planeje suas finanças. Como o dinheiro proporciona a sensação de segurança e liberdade, ter estabilidade financeira traz facilidades na vida. Isso exige sacrifício, levando um padrão de vida um pouco menor do que o que é possível, fugindo das superficialidades e mantendo uma boa disciplina financeira.

Relaxe: Para manter o controle do estresse e aliviar as tensões do dia a dia, ter momentos de tempo livre, tédio, ou se ocupar com atividades relaxantes é excelente. Viagens, leituras, filmes e hobbies são uma forma de manter a mente calma e focada.

Independência: Conquiste a independência em todas as áreas possíveis. Ter ajuda não significa ser dependente. Busque a liberdade. Planeje a viagem. Comece seu negócio. Persiga seus sonhos. 

Conhecimento: Educação, uma base sólida para nosso convívio, bom aproveitamento das oportunidades da vida e crescimento pessoal. Estudar, além de qualificar, distrai e desenvolve a mente. 

Faça Diferença: Seja uma pessoa poderosa. Seja fora da curva. Faça a diferença. Seja gentil. Seja direto. Seja duro quando necessário. Faça a diferença e tenha um impacto positivo no mundo. Contribua para o desenvolvimento das pessoas e ambientes ao seu redor.  Ao sair para catar o lixo da frente da sua casa, colete também o do vizinho. À medida que sua força de realização for crescendo, aceite com gratidão e continue sua jornada. Você é único e ninguém vai pagar o preço da sua vida por você. Seja o senhor do seu castelo. 

Relacionamentos: Esteja próximo de pessoas que admira e que tornam sua vida mais bela e próspera. Busque por amizades, namoro ou contatos sociais quando sentir falta disso. Esteja aberto para novas experiências, pois existem muitas pessoas interessantes que gostariam de te conhecer. 

Nada é tão sério: Nada é tão sério ou tão importante a ponto de você se aniquilar. Viva e deixe viver. Seja grato pelo que já tem. Ofereça seu melhor, mesmo que isso signifique 10% em alguns dias. Mantenha o ciclo de gratidão e recompensa. Saboreie a vida, pois como dizem: ninguém sobreviveu a ela mesmo.

Inteligência Artificial - Local, Offline e Sem censura - Meu PC com a IA de 20 milhões de dólares

 Inteligência Artificial - Local, Offline e Sem censura - A Experiência

Meu PC com a IA de 20 milhões de dólares

Desde que conheci o chat GPT sempre sonhei em ter um assistente pessoal de inteligência artificial. Como algumas perguntas que fiz sobre segurança de sistemas e quebra de senhas para o chat cpt foram amistosamente reprimidas pelo mesmo, me dizendo que eu não deveria estar fazendo aquilo, sonhei em ter um assistente offline e sem censura, que pudesse oferecer códigos para testar sistemas e quebrar senhas ou conversar sobre temas considerados tabus. Fiquei imaginando as imensas salas com servidores da Nvidia, caríssimos como os DGX A100 dos datacenters da OpenAI. Cada uma dessas máquinas com 640GB de memória em GPU e 2TB de memória total consome 6500W e pesa cerca de 123 kg em seus 27x48x90 cm. Nem sonhava que meu desejo estava prestes a se tornar real.

NVidia DGX A100

Experimentei um evento que me deixou tão maravilhado quanto em êxtase, como se eu tivesse acabado de acessar a internet pela primeira vez. Fiquei surpreso ao rodar em meu notebook uma versão offline e aberta de uma plataforma de linguagem de inteligência artificial estável, completa e sem custo, disponível legalmente na internet. Um chat gpt sem censura e offline. Como se eu tivesse colocado as mãos em um tesouro de valor inestimável. E certamente foi isso que aconteceu.

Um software que é resultado de dezenas a centenas de milhões de dólares investidos em sua criação e desenvolvimento e colocado gratuitamente à disposição de todos. Entre os vários modelos disponíveis, cada um com suas características próprias, o Llama 2 é a uma geração de modelo de linguagem de código aberto criada em uma parceria das duas gigantes da tecnologia Meta e Microsoft e disponibilizado para pesquisadores, usuários domésticos e empresas que funciona em um computador com 8GB de memória RAM. Seu banco de dados é reconhecido pela qualidade e  tem cerca de 3.8GB - cabe em um DVD. 

A forma de funcionamento da inteligência artificial lembra o princípio do holograma, onde os dados são gravados em todas as partes e em nenhuma parte ao mesmo tempo. Eles ficam invisíveis, distribuídos interativamente. Se você quebrar uma placa holográfica, cada pedaço conterá a imagem inteira, em uma resolução menor. Colocando o laser na inclinação certa, porém, é possível reconstruir uma imagem completa, inacreditável antes da projeção. Assim como os dados codificados nesses modelos  poderosos. 

Compartilho a seguir a experiência completa, desde a instalação simplificada do modelo para uso no prompt de comando quanto com o private-gpt, onde enviei alguns arquivos e fiz algumas perguntas a respeito. Espero que possa ser seu laboratório de compreensão e uso de IA e que seja tão transformador para você quanto foi para mim. 

1 - A Inteligência Artificial 

Os modelos de inteligência artificial são baseados em LLMs, sigla para Large Language Models (Modelos Extensos de Linguagem) e se referem a um modelo de linguagem com um grande número de parâmetros treináveis. 

O GPT da OpenAI - Generative Pre-trained Transformer, e o BERT do Google - Bidirectional Encoder Representations from Transformers, são modelos com bilhões de parâmetros e capazes de realizar com extrema desenvoltura tarefas relacionadas ao processamento de linguagem natural. 

Existem modelos específicos para outras finalidades, e algumas abordagens são mais bem sucedidas para determinadas tarefas. Em alguns casos a abordagem IF-ELSE de árvores de decisão é eficiente, enquanto em outros casos é necessário um treinamento com aprendizado de máquina (Machine Learning) que envolve interações sucessivas de algoritmos especializados que compilam a informação sem uma programação explícita. Esses algoritmos mais avançados usam técnicas como redes neurais e regressão linear, além das árvores de decisão e outros métodos como lógica difusa. 

As redes neurais possibilitaram a idealização do Deep Learning (Aprendizado Profundo), e utilizam várias camadas de interação. Elas permitiram a interação entre modelos diferentes, por exemplo, um que processa imagens e outro linguagem, permitindo que a IA descreva fotos. É o caso do modelo llava, citado a seguir e que pode também ser utilizado através do Ollama, que descreve as imagens com uma precisão extraordinária.

A principal diferença entre o hardware convencional e o hardware dedicado para a inteligência artificial está na sua concepção. Enquanto um PC convencional busca atender a velocidade e capacidade em tarefas complexas, executadas normalmente de modo linear, o processamento em IA exige muitos cálculos em paralelo e uso intenso de memória. Devido ao grande conjunto de dados e interações, as placas de vídeo são utilizadas em conjunto com o processador para conseguir uma performance superior. 

À medida que o sistema possui mais memória e mais capacidade de processamento é possível treinar e executar modelos mais complexos, com mais parâmetros, aumentar a precisão das respostas e a janela de contexto, levar em conta as perguntas e respostas anteriores e analisar grandes documentos. 

No site huggingface.co é possível acessar repositórios abertos de dados, modelos e técnicas de treinamento, além de ser possível entrar em contato com a comunidade voltada para a personalização e treinamento de inteligência artificial. 

2 - Instalação

Para quem deseja ter sua própria IA rodando localmente existe uma plataforma que realiza a instalação e execução de forma automática, simples e rápida, e basicamente em dois passos. Todo o trabalho é feito automaticamente e o sistema deve estar funcional em menos de 15 minutos, incluindo o tempo de espera do download. Foram utilizados no teste duas máquinas:

• Acer Nitro 5 i5-11400 24GB de RAM e placa GeForce GTX 1650 4GB e Windows 11

• MacBook 12” Early 2015 com 8GB de RAM e placa de vídeo Intel HD 5300 OSX BigSur

2.1 - Efetue o download do Ollama

Vá até o site https://ollama.com/download e obtenha o Ollama para sua plataforma. O Ollama suporta uma variedade de modelos, incluindo Llama 2, Code Llama, Gemmi do Google, Phi da Microsoft, entre outros, e os agrupa juntamente com suas configurações e dados em um único pacote. Para quem já utilizou, é bem parecido com o Docker.

2.2 - Execute um modelo de linguagem

Tudo funciona no modo texto. Se estiver em uma máquina Linux ou MacOS, abra o terminal. Caso esteja no Windows abra o prompt de comando (Iniciar, Executar, CMD). Digite:

> ollama run llama2

para executar o llama2 em sua máquina. Assim que o prompt >>> aparecer você pode interagir. Caso ainda não estejam instalados, os arquivos serão baixados e configurados automaticamente durante a execução. 

2.3 - Experimente

O sistema é desenhado para receber uma entrada e fornecer uma saída. Basta escrever sua pergunta ou fazer sua colocação e esperar pela resposta. 

Para sair para o sistema, digite:

>>> /bye

> exit

A velocidade e a qualidade da resposta dependerão do modelo utilizado. O modelo llama2 se tornou famoso por ter respostas de alta qualidade, utilizar poucos recursos e contar com uma velocidade considerável. 

2.4 - Modelos disponíveis

Para ver os modelos que estão instalados localmente, digite:

> ollama list

Para ver todos os que podem ser instalados, visite o site https://ollama.com/library . Você encontrará vários modelos atualizados para executar diretamente com o ollama, como por exemplo:

Gemma: inspirado no Gemini e criado pelo time DeepMind do Google. Possui modelos de 2 e 7 bilhões de parâmetros. O modelo passou por um treinamento em um conjunto diversificado de documentos e aprendeu padrões de linguagem e sintaxe, programação, matemática e raciocínio lógico. Seus dados foram filtrados com base no conteúdo e nas diretrizes e políticas do Google. 

Llama2: lançado pela Meta, esse modelo foi treinado com 2 trilhões de tokens. Oferece um comprimento de contexto de 4096 tokens, é voltado para bate papo e foi ajustado com mais de um milhão de anotações humanas. Apesar de seu tamanho reduzido e velocidade de produção de conteúdo, é extremamente eficaz e pode ser executado de forma bastante satisfatória mesmo em máquinas menores. Seu modelo de 7b (Esses números tratam dos bilhões de parâmetros treináveis do modelo. Um modelo 7b, por exemplo, tem 7 bilhões de parâmetros treináveis) requer 8GB de RAM. Seu modelo 13b geralmente requer 16GB e seu modelo de 70b requer 64GB de memória. 

Mistral: um modelo distribuído pela licença Apache, 7.3b e que se compara ao Llama2 13b em benchmarks de performance.

Llava: certamente um dos modelos mais impressionantes. Ele possui um encoder que o permite descrever o conteúdo de uma imagem. Inserindo no prompt o nome do arquivo de imagem fornece uma descrição da mesma. Enviei minha foto e obtive o seguinte resultado, me arrependendo um pouco ao ler a parte sincera sobre a meia idade:

> ollama run llava

>>> "C:\\Users\\gazst\\Downloads\\FotoPerfil.jpg"

resposta em inglês, após tradução:

“Esta é a imagem de uma pessoa sentada em frente a um computador. O indivíduo parece ser de meia-idade, com cabelos curtos e tom de pele claro. Eles estão vestindo uma camisa branca e têm um leve sorriso no rosto. No fundo, há uma decoração de parede com o que parece ser uma palheta de guitarra e possivelmente um tema musical. À esquerda da pessoa, há um monitor de computador exibindo o que parece ser um editor de código com algum texto visível, sugerindo que este pode ser um espaço de trabalho onde o trabalho de codificação ou desenvolvimento é feito. A sala tem um ambiente aconchegante e a pessoa parece relaxada em seu ambiente.”

Foi necessário menos de um minuto para analisar a imagem no Acer Nitro 5. 

No MacBook foram cerca de três minutos.

Llama2-uncensored: é o modelo llama2 desprovido de julgamentos. Ele responde qualquer pergunta. Por exemplo: 

A versão original se recusará a comentar sobre a vida alheia quando perguntada sobre “Quem fez Rose prometer que nunca desistiria?”. No modelo sem censura, ele vai citar o filme Titanic. Os modelos sem censura também conversam sobre temas que outros modelos não estão programados para responder. Resultados de algumas pesquisas interessantes que ficam diferentes sem as restrições, falando sobre a Bíblia, pedindo uma receita apimentada, perguntando sobre boxe entre bilionários ou pedindo informações médicas podem ser encontrados em:

https://ollama.com/blog/run-llama2-uncensored-locally

Para executar o llama2 sem censura digite o comando:

> ollama run llama2-uncensored

Existem ainda outros modelos, como o Phi da Microsoft e o OpenChat, versão open-source que utiliza como referência o ChatGPT, voltados para conversação e que são muito bem treinados e avaliados e possuem respostas de alto nível. Alguns possuem 47 bilhões de parâmetros, como o dolphin-mixtral. Outros são voltados para o chinês e inglês. Cada um tem sua particularidade no treinamento, função, capacidade, dados utilizados e métodos de treinamento. Cada um tem sua “personalidade”. 

1.5 - O próximo passo: Private GPT

Próxima etapa: o private-gpt. As instruções de instalação podem ser encontradas detalhadamente no link:

https://docs.privategpt.dev/installation/getting-started/main-concepts 

A instalação ocorreu quase sem surpresas, com algumas pequenas adaptações ao longo do processo, como por exemplo configuração manual do caminho do gerenciador de pacotes e dependências python, o poetry. No geral as instruções foram seguidas à risca. Usei a configuração padrão do modelo, que fica no arquivo settings.yaml

Rodar o private-gpt impressiona. Primeiro pela plataforma web pronta para ser utilizada por qualquer usuário da rede diretamente do navegador, e outra pelo recurso de ingestão, que permite enviar arquivos para análise e discussão posterior. 

Para realizar o teste foram enviados três arquivos, que estão no anexo ao final deste documento juntamente com os prompts que foram utilizados e as respostas obtidas, sendo:

• 2 arquivos de texto com relatórios de manutenção de equipamentos

• 1 versão pdf do livro de Carl Gustav Jung, A Estrutura da Alma

Os arquivos de relatório de manutenção precisaram ser filtrados através de um script python, pois alguns erros referente a caracteres não reconhecidos ocorreram durante o envio. Cada arquivo com 2kb demorou cerca de 15 segundos para ser processado. 

O livro de Jung foi enviado em sua forma original em pdf, sem alterações, e foi ingerido corretamente e sem erros em pouco menos de uma hora. Os resultados foram muito interessantes e estão detalhados no anexo. Apesar de não ser possível confiar plenamente nas respostas, percebemos a capacidade de obter insights valiosos. 

É necessário mais tempo e interações com o sistema para conseguir opinar sobre o potencial de uso no dia a dia das diferentes atividades, mas os resultados são muito promissores. Dentre os arquivos enviados e os testes feitos, na maioria das vezes o resultado foi satisfatório. 

1.6 - A Epifania

A inteligência artificial veio para ficar, pois se mostra muito eficiente para algumas tarefas, como gerar textos referentes a qualquer assunto, mas não possui capacidade criativa ou cognitiva real. Suas respostas, apesar de previsíveis, monótonas e algumas vezes sugerirem um padrão parecido com o industrial, um tanto sem personalidade, são precisas e funcionais. Considero que as interações foram muito positivas e que temos em nossas mãos uma ferramenta poderosa para brainstorming, organização de idéias, correção, tradução e interpretação de textos. 

A IA atua como um excelente secretário: escreve, organiza e auxilia no processo de criação. Não possui, ainda, por si só, as capacidades de se aprofundar autonomamente em qualquer assunto, ou fornecer resultados confiáveis que dispensem uma conferência ou certificação. Com a devida supervisão e interação de um humano produz resultados muito bons. Existem vários modelos de linguagem disponíveis e experimentá-los, dentre uma infinidade de opções, com seus diferentes objetivos e treinados com diferentes datasets, torna as possibilidades de interação virtualmente infinitas. 

É impressionante uma quantidade tão grande de informações e um recurso tão poderoso rodando em uma máquina comum sem internet. 

O objetivo deste pequeno artigo é compartilhar um pouco da vivência extraordinária que tive com a instalação e uso da inteligência artificial local e sem censura, e também buscar que qualquer pessoa com conhecimentos de informática possa seguir os passos e conseguir, com um pouco de tempo e conhecimento, colocar uma IA para rodar em sua máquina e ter momentos tão interessantes quanto eu. 

Estou engatinhando ainda na área de IA, então posso ter cometido algum erro ou gafe ao tentar compactar toda a informação aqui! A inteligência artificial e a natural, mesmo quando se esforçam, ainda erram. Desculpe-nos. Mas quem sabe não é a parte imperfeita que torna esse artigo único?

Referências:

NVIDIA DGX A100 80GB Datasheet

https://resources.nvidia.com/en-us-dgx-systems/dgx-ai?xs=489752

5 Steps to Getting Started with Llama 2

https://ai.meta.com/blog/5-steps-to-getting-started-with-llama-2/

The Hugging Face - IA Community

https://huggingface.co/

Passo a passo Private-GPT

https://docs.privategpt.dev/overview/welcome/introduction

Repositório GitHub Private-GPT

https://github.com/zylon-ai/private-gpt

Ollama

https://ollama.com/

Artigos Correlacionados:

https://www.oneusefulthing.org/p/centaurs-and-cyborgs-on-the-jagged