Azure Data Explorer es una plataforma en la nube totalmente administrada [ 1 ] para análisis de big data [ 2 ] [ 3 ] y un servicio de exploración de datos , [ 4 ] desarrollado por Microsoft , [ 5 ] [ 6 ] que ingiere datos estructurados , semiestructurados (como JSON ) y no estructurados (como texto libre). [ 7 ] [ 8 ] [ 9 ] [ 10 ] El servicio luego almacena estos datos y responde a consultas analíticas ad hoc sobre ellos con segundos de latencia. Es una base de datos de indexación y recuperación de texto completo , que incluye capacidades de análisis de series temporales [ 6 ] [ 7 ] y evaluación de expresiones regulares y análisis de texto. [ 11 ]
Se ofrece como plataforma como servicio (PaaS) dentro de la plataforma Microsoft Azure . El producto fue anunciado por Microsoft en 2018.
Historia
El desarrollo del producto comenzó en 2014 como un proyecto de incubación de base en el centro de I+D israelí de Microsoft, [ 12 ] con el nombre en clave interno 'Kusto' [ 9 ] [ 7 ] (llamado así por Jacques Cousteau , como referencia a "explorar el océano de datos"). El objetivo del proyecto era satisfacer las necesidades de los servicios de Azure de análisis de registros y telemetría rápidos y escalables.
En 2016 se convirtió en el servicio de análisis y big data de backend para Application Insights Analytics. [ 13 ]
El producto se anunció como un producto de vista previa pública en la conferencia Microsoft Ignite 2018, [ 14 ] y se anunció como disponible para el público en general en la conferencia Microsoft Ignite de febrero de 2019. [ 15 ]
En marzo de 2021, "Kusto EngineV3", el motor de almacenamiento y consulta de próxima generación de Azure Data Explorer, estuvo disponible de forma general. Fue diseñado para proporcionar un rendimiento sin precedentes para la ingesta y consulta de datos de telemetría, registros y series temporales. [ 16 ]
Características
Azure Data Explorer ofrece un lenguaje de consulta optimizado y opciones de visualización [ 17 ] de sus datos con un lenguaje similar a SQL llamado KQL (Kusto Query Language [ 18 ] [ 19 ] [ 20 ] ). [ 7 ] [ 8 ]
Azure Data Explorer puede ingerir 200 MB por segundo por nodo. [ 14 ] Los métodos de ingesta de datos son canalizaciones y conectores a servicios comunes como Azure Event Grid o Azure Event Hub, [ 21 ] o ingesta programática mediante SDK .
La visualización de datos se puede lograr utilizando su panel nativo o con herramientas como Power BI [ 21 ] [ 22 ] o Grafana . [ 23 ] [ 24 ]
Diseño
Azure Data Explorer es una base de datos distribuida que se ejecuta en un clúster de nodos de computación en Microsoft Azure . Se basa en sistemas de gestión de bases de datos relacionales (RDBMS) y admite entidades como bases de datos, tablas , funciones y columnas. Admite operadores de consulta analítica complejos, como columnas calculadas, búsqueda y filtrado de filas, agregaciones por agrupación y uniones . [ 25 ]
El servicio del motor expone un modelo de datos relacional : en el nivel superior ( clúster ) hay una colección de bases de datos, cada una de las cuales contiene una colección de tablas y funciones almacenadas. Cada tabla define un esquema (lista ordenada de campos tipados).
En Azure Data Explorer, a diferencia de un sistema típico de gestión de bases de datos relacionales (RDBMS) , no existen restricciones como la unicidad de claves, claves primarias y foráneas . [ 26 ] Las relaciones necesarias se establecen en el momento de la consulta. [ 27 ] Los datos en Azure Data Explorer generalmente siguen este patrón: [ 28 ] Creación de la base de datos, ingesta de datos, consulta de la base de datos.
Referencias
- ↑ Serra, James (14 de marzo de 2019). "Azure Data Explorer" . Blog de James Serra . Consultado el 9 de abril de 2020 .
- ↑ "Microsoft lanza Azure Data Lake Storage y Azure Data Explorer" . eWEEK . Consultado el 10 de abril de 2020 .
- ↑ Mogenis, Max. "¿Qué es Azure Data Explorer?" . blog.pragmaticworks.com . Consultado el 21 de marzo de 2020 .
- ↑ "Creación de un clúster y una base de datos de Azure Data Explorer en Azure" . www.c-sharpcorner.com . Consultado el 9 de abril de 2020 .
- ↑ Mackie, Kurt (2019-09-20). "Próximamente llegarán herramientas actualizadas para Office 365 y Microsoft Azure -- Redmondmag.com" . Redmondmag . Consultado el 10 de abril de 2020 .
- 1 2 "Comparación entre Microsoft Azure Data Explorer y Microsoft Azure SQL Database" . db-engines.com . Consultado el 9 de abril de 2020 .
- 1 2 3 4 Mahajan, Gauri (27 de febrero de 2020). "Azure Data Explorer para principiantes" . SQL Shack: artículos sobre auditoría de bases de datos, rendimiento del servidor, recuperación de datos y más . Recuperado el 9 de abril de 2020 .
- 1 2 "¿Qué es Azure Data Explorer?" . docs.microsoft.com . Consultado el 06/12/2019 .
- 1 2 Mahajan, Gauri (27 de febrero de 2020). "Azure Data Explorer para principiantes" . SQL Shack: artículos sobre auditoría de bases de datos, rendimiento del servidor, recuperación de datos y más . Recuperado el 21 de marzo de 2020 .
- ↑ Lai, Alex (14 de enero de 2019). "¿Qué es Azure Data Explorer y Kusto Querying Language (KQL)?" . Adatis . Recuperado el 10 de abril de 2020 .
- ↑ "Azure Data Explorer - Mercado digital" . www.digitalmarketplace.service.gov.uk . Consultado el 21 de marzo de 2020 .
- ↑ "Microsoft R&D" . www.microsoftrnd.co.il . Consultado el 6 de diciembre de 2019 .
- ↑ orspod. "Presentación de Application Insights Analytics" . devblogs.microsoft.com . Consultado el 6 de diciembre de 2019 .
- 1 2 "Presentación de Azure Data Explorer" . azure.microsoft.com . Consultado el 6 de diciembre de 2019 .
- ↑ "Disponibilidad general: Azure Data Explorer | Actualizaciones de Azure | Microsoft Azure" . azure.microsoft.com . Consultado el 6 de diciembre de 2019 .
- ↑ orspod. "Azure Data Explorer Kusto EngineV3" . docs.microsoft.com . Consultado el 13 de abril de 2021 .
- ↑ Brust, Andrew. "Fastly y Microsoft se asocian en análisis en tiempo real con Azure Data Explorer" . ZDNet . Consultado el 9 de abril de 2020 .
- ↑ Mackie, Kurt (18 de julio de 2019). "Microsoft presenta datos de Prometheus en Azure Monitor para contenedores -- Redmondmag.com" . Redmondmag . Consultado el 9 de abril de 2020 .
- ↑ "Primeros pasos con el lenguaje de consulta Kusto (KQL) – System.Blog.Martens.Ben" . blogs.msdn.microsoft.com . Consultado el 6 de diciembre de 2019 .
- ↑ "Explorando datos en Microsoft Azure usando el lenguaje de consulta Kusto y Azure Data Explorer" . www.pluralsight.com . Consultado el 21 de marzo de 2020 .
- 1 2 "Arquitectura de canalizaciones de datos y análisis en Azure" . Gartner . Consultado el 10 de abril de 2020 .
- ↑ Mahajan, Gauri (27 de febrero de 2020). "Azure Data Explorer para principiantes" . SQL Shack: artículos sobre auditoría de bases de datos, rendimiento del servidor, recuperación de datos y más . Consultado el 10 de abril de 2020 .
- ↑ "Grafana vs Azure Dashboards: ¿Cuál usar y cuándo?" . CloudIQ Tech . 10-12-2018 . Consultado el 10-04-2020 .
- ↑ "Complemento de origen de datos de Azure Data Explorer para Grafana" . Grafana Labs . Consultado el 10 de abril de 2020 .
- ↑ orspod. "Primeros pasos con Kusto - Azure Data Explorer" . docs.microsoft.com . Consultado el 6 de diciembre de 2019 .
- ↑ "Comparación entre GraphDB y Microsoft Azure Data Explorer" . db-engines.com . Consultado el 10 de abril de 2020 .
- ↑ "Azure Data Explorer: una plataforma en la nube para análisis de big data" (PDF) . Archivado (PDF) del original el 6 de diciembre de 2019.
- ↑ Serra, James (14 de marzo de 2019). "Azure Data Explorer" . Blog de James Serra . Consultado el 21 de marzo de 2020 .
- Sistemas de gestión de bases de datos