Data Science, Deep Learning, Machine Learning, Python, Redes Neurais

O que é e como codificar uma Rede Neural Artificial com Backpropagation em Python (do zero)

Esse artigo esta dividido em duas etapas:

  1. Uma breve descrição sobre Redes Neurais e alguns de seus tipos (Fonte e Direitos);
  2. Detalhando a Rede Neural com Backpropagation com exemplo em Python – com base no artigo em: How to Code a Neural Network with Backpropagation In Python (from scratch) by Jason Brownlee in Code Algorithms From Scratch
21086425615_12170e7df2_o
Fonte: https://machinelearningmastery.com/implement-backpropagation-algorithm-scratch-python/

Rede Neural Artificial (RNA) pode ser definida como uma estrutura complexa interligada por elementos de processamento simples (neurônios), que possuem a capacidade de realizar operações como cálculos em paralelo, para processamento de dados e representação de conhecimento. Seu primeiro conceito foi introduzido em 1943, mas ganhou popularidade algumas décadas depois com a introdução de algoritmos de treinamento como o backpropagation, que permite a realização de um treinamento posterior para aperfeiçoar os resultados do modelo.

Um Breve Histórico – Um histórico resumido sobre Redes Neurais Artificiais deve começar por três das mais importantes publicações iniciais, desenvolvidas por: McCulloch e Pitts (1943), Hebb (1949), e Rosemblatt (1958). Estas publicações introduziram o primeiro modelo de redes neurais simulando “máquinas”, o modelo básico de rede de auto-organização, e o modelo Perceptron de aprendizado supervisionado, respectivamente.

Alguns históricos sobre a área costumam “pular” os anos 60 e 70 e apontar um reinicio da área com a publicação dos trabalhos de Hopfield (1982) relatando a utilização de redes simétricas para otimização e de Rumelhart, Hinton e Williams que introduziram o poderoso método Backpropagation.

Entretanto, para se ter um histórico completo, devem ser citados alguns pesquisadores que realizaram, nos anos 60 e 70, importantes trabalhos sobre modelos de redes neurais em visão, memória, controle e auto-organização como: Amari, Anderson, Cooper, Cowan, Fukushima, Grossberg, Kohonen, von der Malsburg, Werbos e Widrow.

Fonte

Mais informações históricas…

Continuar lendo

Dados, Data Science, Deep Learning, Machine Learning, NLP, Python, Recuperação da Informação

Luppar News-Rec (Recomendador Inteligente de Notícias)

O Luppar News-Rec (Versão 1) é fruto da minha dissertação de Mestrado,  mais detalhes sobre – visualize aqui! É um Sistema Recomendador de Notícias (SRN) composto por algoritmos clássicos de classificação que trabalham em conjunto com representações de documentos para solucionar o problema de classificação de notícias de forma a trazer os documentos(notícias) que atendam a necessidade do usuário. A metodologia que segue esse trabalho divide os esforços da implementação do SRN em três etapas: Subsistema de Captura, Pré-Processamento e Armazenamento, Subsistema de Classificação de Notícias e Subsistema de Aquisição de Perfil de Assinantes e Distribuição.

Recursos do Luppar News-Rec

News Recommender System using Word Embeddings for study and research.

Disponível em: http://luppar.com/recommender

Coleções de documentos

  • Z5News (Coleção em Inglês com 5 tópicos)
    • sportsNews, politicsNews, technologyNews, PersonalFinance e brazil-news
  • Z5NewsBrasil (Coleção em Portugues com 5 tópicos)
    • esporteNews, politicaNews, tecnologiaNews, financaPessoal e educacaonews
  • Z12News (Coleção em Inglês com 12 tópicos)
    • sportsnews, politicsNews, technologyNews, PersonalFinance, brazil-news, aerospace-defense, autos, commoditiesNews, fundsNews, foreignexchangeNews, healthnews e environmentnews

Continuar lendo

IA (Inteligência Artificial), Machine Learning

14 tipos diferentes de aprendizado no aprendizado de máquina

Todos os direitos reservados ao autor: Jason Brownlee (artigo original em inglês)

O aprendizado de máquina é um grande campo de estudo que se sobrepõe e herda idéias de muitos campos relacionados, como inteligência artificial.

O foco do campo é aprender, ou seja, adquirir habilidades ou conhecimentos a partir da experiência. Geralmente, isso significa sintetizar conceitos úteis a partir de dados históricos.

Como tal, existem muitos tipos diferentes de aprendizado que você pode encontrar como profissional no campo do aprendizado de máquina: de campos de estudo completos a técnicas específicas.

Neste post, você descobrirá uma introdução suave aos diferentes tipos de aprendizado que você pode encontrar no campo de aprendizado de máquina.

Depois de ler este post, escrito originalmente por:  Jason Brownlee, você saberá:

  • Campos de estudo, como aprendizado supervisionado, não supervisionado e de reforço.
  • Tipos de aprendizado híbridos, como aprendizado semi-supervisionado e auto-supervisionado.
  • Técnicas amplas, como aprendizado ativo, online e por transferência.

Continuar lendo

Big Data, Business Intelligence (BI), Data Science, Machine Learning

Definindo a ciência de dados: o quê, onde e como a ciência de dados

Ciência de dados – um termo universalmente reconhecível que precisa desesperadamente de divulgação.

Ciência de dados é um termo que foge a qualquer definição completa única, o que dificulta o uso, principalmente se o objetivo é usá-lo corretamente. A maioria dos artigos e publicações usa o termo livremente, com a suposição de que ele é universalmente entendido. No entanto, a ciência de dados – seus métodos, objetivos e aplicativos – evolui com o tempo e a tecnologia. A ciência de dados há 25 anos se referia à coleta e limpeza de conjuntos de dados e à aplicação de métodos estatísticos a esses dados. Em 2018, a ciência de dados cresceu para um campo que abrange análise de dados, análise preditiva, mineração de dados, inteligência de negócios, aprendizado de máquina e muito mais.

Continuar lendo

Data Science, Deep Learning, Machine Learning, Recuperação da Informação

Materiais sobre Inteligência Artificial, Machine Learning, Statistics e etc…

Machine Learning, Recuperação da Informação

Machine Learning Yearning

Machine Learning, Recuperação da Informação

Protótipo de um sistema recomendador passo a passo Parte 1: Filtragem colaborativa baseada em itens do KNN

Sistemas de recomendação de filmes

Matéria original (Todos os direitos reservados ao autor: Kevin Liao)
A Parte 2 dos sistemas de recomendação pode ser encontrada aqui

Sistemas Recomendadores

A maioria dos produtos de internet que usamos hoje são equipados com sistemas de recomendação. Youtube, Netflix, Amazon, Pinterest e uma longa lista de outros produtos da Internet dependem de sistemas de recomendação para filtrar milhões de conteúdos e fazer recomendações personalizadas para seus usuários. Os sistemas de recomendação são bem estudados e comprovadamente fornecem valores tremendos para as empresas da Internet e seus consumidores. De fato, fiquei chocado com a notícia de que a Netflix concedeu um prêmio de US $ 1 milhão a uma equipe de desenvolvedores em 2009, por um algoritmo que aumentou a precisão do sistema de recomendações da empresa em 10%.

Continuar lendo

Data Science, Machine Learning, Recuperação da Informação

10 métodos de aprendizado de máquina que todo cientista de dados deve conhecer

Todos os direitos reservados à Jorge Castanon

O aprendizado de máquina (machine learning (ML)) é um tópico importante na pesquisa e na indústria, com novas metodologias desenvolvidas o tempo todo. A velocidade e a complexidade do campo dificultam o acompanhamento de novas técnicas, mesmo para especialistas – e potencialmente esmagadoras para iniciantes.

Para desmistificar o aprendizado de máquina e oferecer um caminho de aprendizado para aqueles que são novos nos conceitos principais, vejamos dez métodos diferentes, incluindo descrições simples, visualizações e exemplos para cada um.

Um algoritmo de aprendizado de máquina, também chamado de modelo, é uma expressão matemática que representa dados no contexto de um problema, geralmente um problema de negócios. O objetivo é passar de dados a insights. Por exemplo, se um varejista on-line quiser antecipar as vendas para o próximo trimestre, ele poderá usar um algoritmo de aprendizado de máquina que prevê essas vendas com base em vendas anteriores e outros dados relevantes. Da mesma forma, um fabricante de moinho de vento pode monitorar visualmente equipamentos importantes e alimentar os dados de vídeo através de algoritmos treinados para identificar rachaduras perigosas.

Os dez métodos descritos oferecem uma visão geral – e uma base na qual você pode desenvolver enquanto aprimora seus conhecimentos e habilidades de aprendizado de máquina:

  1. Regressão
  2. Classificação
  3. Agrupamento
  4. Redução de dimensionalidade
  5. Métodos de conjunto
  6. Redes Neurais e Aprendizagem Profunda
  7. Transferência de Aprendizado
  8. Aprendizagem por Reforço
  9. Processamento de linguagem natural
  10. Incorporação de palavras

Continuar lendo

Dados, Data Science, Deep Learning, IA (Inteligência Artificial), Machine Learning

Sistemas de recomendação na prática

Empresas como Amazon, Netflix, Linkedin e Pandora aproveitam os sistemas de recomendação para ajudar os usuários a descobrir itens novos e relevantes (produtos, vídeos, trabalhos, músicas), criando uma experiência agradável para o usuário enquanto impulsiona a receita incremental.

Nesse artigo do Houtao Deng é fornecido uma visão prática dos sistemas de recomendação. Primeiro, três sistemas principais são revisados: filtragem baseada em conteúdo, colaborativa e híbrida, seguida de discussões sobre inicialização a frio, escalabilidade, interpretabilidade e exploração / exploração.

Recomendação baseada em conteúdo

Na Pandora, uma equipe de músicos rotulou cada música com mais de 400 atributos. Então, quando um usuário seleciona uma estação de música, as músicas que correspondem aos atributos da estação serão adicionadas à lista de reprodução (Projeto Genoma da Música | Pandora, Howe | Pandora).

Esta é uma recomendação baseada em conteúdo. Usuários ou itens têm perfis que descrevem suas características e o sistema recomendaria um item a um usuário se os dois perfis corresponderem. A caixa de moda do Stitch Fix é outro exemplo de recomendação baseada em conteúdo. Os atributos de um usuário são coletados (altura, peso, etc.) e os produtos de moda correspondentes são colocados em uma caixa entregue ao usuário (Stitch Fix | 2013).

Continuar lendo

Data Science, IA (Inteligência Artificial), Machine Learning

Top used Data Science libraries for Python, R and Scala