Archivos de la categoría Big Data

Técnicas de análisis de Big Data

Evidentemente cuanta más data tengamos más exhaustivo va a ser nuestro análisis, algunas de estas técnicas pueden ser aplicadas a grupos pequeños, pero todas pueden ser aplicadas al Big Data. Aquí van los grupos:

  • A/B Testing: Esto es una de las técnicas que se puede usar con grupos de data pequeños. Se trata de mostrar dos versiones distintas de la web (o de lo que sea) para determinar que variación se adapta mejor a nuestros objetivos.

  • Aprendizaje de asociaciones: Se trata de encontrar relaciones entre datos que nos puedan ser útiles. En el caso de Facebook sería que personas tenemos mas posibilidades de empezar a seguir, pero en caso de Amazon es que producto posiblemente compraremos si hemos realizado un seguido de acciones (por ejemplo que dos productos se suelen comprar a la vez). Sabiendo esto lo pueden poner más fácil a los clientes.

  • Clasificación: Se trata de que la computadora determine a que grupo de data pertenece un nuevo set de data basándose en clasificaciones pasadas y los ejemplos “entrados a mano”. Un ejemplo sería determinar el idioma de un texto basado en ejemplos dados por humanos que si sepan que lengua es. Evidentemente cuanto mayor sea el dato a comparar menos probabilidades de error tendrá.

  • Análisis del cluser: Se trata de reducir el cluster a grupos más pequeños y de ordenarlos de otra forma encontrando similaridades que antes se nos habían pasado por alto. Por ejemplo, que tienen en común una chica de 20 años de Madrid y un hombre sevillano de 40 años? Pues que a los dos les gusta hacer puzzles en su tiempo libre.

  • Crowdsourcing: Es una técnica de recolección de data enviada por un largo grupo de usuarios (de aquí “crowd”). Preguntas a la comunidad y esta te responde. Un ejemplo de esto sería Starbucks que pregunta a los usuarios en que podría mejorar y que nuevos productos debería sacar al mercado.

  • Fusión e integración de la data: A veces hay datos que por si solos no aportan mucho pero combinados con otros ya es otro tema. El GPS de tu móvil sólo dice dónde estás, pero combinado con Twitter puedes encontrar gente nueva, o combinado con un mapa de la zona te ayuda a ubicarte.

  • Data mining: Es un conjunto de técnicas para extraer información útil de grandes cantidades de data y presentarlo de forma que los humanos lo podamos comprender y poder sacar provecho de ello. La data si no se sabe usar por si sola no sirve de nada.

  • Aprendizaje predictivo: Con el uso de modelos predictivos (basados en estadística y machine learning) podemos determinar o intentar predecir el futuro de determinados modelos.

  • Algoritmos genéticos: También conocidos como algoritmos de la evolución sirven para mejorar problemas no lineales. Como dice la teoría de la evolución, “sobrevive el mejor adaptado”, pues este caso vendría a ser el cambio que desarrolla un mejor desempeño.

  • Machine learning: Una parte de este es la inteligencia artificial y se basa en evolucionar su comportamiento basado en datos empíricos.

  • Circuitos neuronales: Recibe este nombre porque se parecen bastante a las conexiones de nuestras neuronas. Esta técnica nos ayuda a buscar patrones no lineales y optimizarlos.

  • Análisis de redes: Es un conjunto de técnicas que permiten encontrar los nodos de más influencia, la dirección de los datos. Esto permite conocer a los influencers (para estrategias de marketing) o para identificar los cuellos de botella.

  • Optimización: Los algoritmos genéticos son una de estas técnicas, sirven para mejorar el proceso en función el coste, velocidad…

  • Reconocimiento de patrones: Es una de las partes de clasificación. Dada una entrada, da una salida siguiendo el mismo algoritmo.

  • Predecir modelos: Se trata de crear un modelo matemático con la mayor probabilidad de predecir la salida. Calculan la probabilidad de que pase una determinada cosa.

  • Regresión: Es una de las técnicas para predecir modelos, se trata de que dadas algunas constantes, calcular que pasa cuando se modifican las variables.

  • Simulación: Dadas las probabilidades de todas las variables calcula que pasa en cada escenario para unos datos concretos. Haciendo así ver como puede reaccionar nuestro (p.ej.) material, a determinadas condiciones.

Uf, este ha sido un post muy intenso. Me ha costado lo suyo pero creo que ha salido bastante completo. Espero que os haya gustado, para cualquier cosa ya sabéis, comentario! 😉

Que tecnologías nos ayudan a almacenar el BigData?

Hablando del big data ahora toca hablar un poco de las tecnologías que nos ayudan a hacer esto posible. Es una lista de sistemas específicos, como más generales.

  • Big Table: Inspiración para Hbase, sistema construido para Google File System.

  • Business intelligence (BI): Es un tipo de software que trata los datos y los presenta de forma entendible.

  • Cassandra: Es un sistema de software distribuido que soporta grandes cantidades de data originalmente desarrollado por Facebook pero actualmente mantenido por Apache Software Fundation.

  • Cloud computing: Se trata de un paradigma altamente escalable, normalmente de sistema distribuido ofrecido a través de la red.

  • Data warehouse: Base de datos optimizada para hacer reportes. Normalmente usada para grandes cantidades de datos estructurados. Usa ETL (extract, transform, load)

  • Sistema distribuido: Diversos ordenadores conectados en red para solventar problemas. El problema es solucionado por partes en cada procesador trabajando en paralelo.

  • Dynamo: Sistema de almacenamiento de datos desenvolupado por Amazon.

  • Handoop: Es un framework open source para procesar sets de datos de tipos determinados para problemas concretos en sistemas distribuidos. Originalmente propiedad de Yahoo pero ahora forma parte de Apache Software Fundation.

  • Hbase: Es una herramienta distribuida, no relacional, para modelado para Google Big Table. Este también forma parte de Handoop de Apache Software Fundation.

  • MapReduce: Es un framework introducido por Google para procesar grandes cantidades de datos en sistemas distribuidos. También implementado en Handoop.

  • Mashup: Es una aplicación que combina presentación de los datos o funcionalidades de dos o más fuentes para crear nuevos servicios.

  • R: Es una potente herramienta open source propiedad del proyecto GNU. Es ampliamente usada por estadistas. (Yo la usé cuando hacía estadística en la universidad y la verdad es que aunque era difícil de usar, porque usaba comandos, era muy potente).

No sé si se me ha pasado algo por alto, pero si es así deja un comentario y te lo agradeceré :)

Como visualizar el big data

Ya que estamos hablando del tema debemos hablar de la forma de representar los datos.
Los seres humanos hemos sido “diseñados” para identificar las cosas que se salgan de lo normal. Y para identificar patrones en un número determinado y finito de datos, por lo tanto todo lo que se salga de este estándar nos va a costar gran cantidad de trabajo encontrar lo que busquemos o tratar estos datos (Big Data).

 

  • Nube de etiquetas: Es quizás la forma más conocida de representar grandes cantidades de palabras. Lo que hace es mostrar todas las palabras y hacer más grandes aquellas que más veces se repitan.
  • Clustergram: Es una técnica de visualización usada para análisis de cluster para mostrar los datos individuales de un determinado dataset. El número de cluster es un dato importante ya que ayuda a entender la escalabilidad de los sistemas.
  • History flow: Sirve para ver la evolución de un documento. En el eje horizontal se pone el tiempo y en el vertical los colaboradores. A partir de aquí se puede jugar haciendo que como más grande sea el punto en el tiempo más cantidad de texto ha modificado. Es usado por Wikipedia.
  • Flujo de información: Esto es usado a veces para indicar entre que puntos se hacen las conexiones en el globo terráqueo.

Luego ya están los clásicos como histogramas, diagrama de barras, gráficos de sectores (quesitos)…
Con un poco de imaginación seguro que podemos adaptar estos modelos a otros similares.
Se que no he aportado mucho pero de momento no se me ocurren más, así que si encontráis más se agradecen aportaciones en los comentarios 😉