MRS unterstützt nun MemArtsStore, den hochverfügbaren, verteilten Schreibcache-Dienst der T Cloud Public, der darauf ausgelegt ist, Big-Data-Workloads zu beschleunigen.
Update of MapReduce Service
Neue Funktionen und Verbesserungen
MemArtsStore-Unterstützung hinzugefügt
Wichtige Vorteile:
- Bietet Remote-Shuffle-Dienste für Big-Data-Anwendungen.
- Eliminiert die Abhängigkeit von lokalen Festplatten für die Shuffle-Datenspeicherung.
- Bietet hohe Verfügbarkeit durch mehrere Datenreplikate.
- Verhindert Shuffle-Datenverlust im Falle eines Knotenausfalls.
- Optimiert die Leistung, indem Daten innerhalb von Partitionen aggregiert und kleine I/O-Operationen reduziert werden.
Diese Verbesserung erhöht die Widerstandsfähigkeit und Effizienz großer Datenverarbeitungs-Workloads.
Apache Doris: Unterstützung benutzerdefinierter Funktionen (UDF)
Apache Doris unterstützt nun die Erstellung und Ausführung benutzerdefinierter Funktionen.
Unterstützte Funktionstypen:
- UDF (benutzerdefinierte Funktion)
- UDAF (benutzerdefinierte aggregierte Funktion)
- UDTF (benutzerdefinierte Tabellenfunktion)
Mit Java-basierten APIs können Kunden individuelle Geschäftslogik direkt in Doris implementieren, was mehr Flexibilität für Analysen und Datenverarbeitungsszenarien ermöglicht.
Verbesserte Sichtbarkeit der Autorisierung von Hive-Metadaten
Hive unterstützt nun berechtigungsbasierte Sichtbarkeit für Datenbanken und Tabellen, wenn die Ranger-Authentifizierung aktiviert ist.
Was es Neues gibt:
- Benutzer können nur die Datenbanken und Tabellen einsehen, auf die sie Zugriff haben.
- Unautorisierte Datenbanken und Tabellen bleiben verborgen.
- Verbessert Sicherheit und Nutzererfahrung, indem die Exposition gegenüber irrelevanten Metadaten reduziert wird.
Diese Funktion hilft Organisationen, strengere Zugriffskontrollen und Governance-Richtlinien einzuführen.
Ausführung von Hive-Jobs mit flexiblen JDK-Versionen
Hive ermöglicht es Administratoren nun, die für die Jobausführung verwendete Java-Laufzeitumgebung auszuwählen.
Unterstützte JDK-Versionen:
- JDK 8 (Standard)
- JDK 17
- JDK 21
Diese Funktion steht für Hive-Jobs zur Verfügung, die sowohl auf der MapReduce- als auch auf der Tez-Ausführungsengine laufen, und bietet somit mehr Flexibilität hinsichtlich der Anwendungskompatibilität und bei Modernisierungsinitiativen.
Vereinfachte Hive-Client-Authentifizierung
Hive-Clients unterstützen nun die Authentifizierung per Benutzername und Passwort bei der Verbindung mit HiveServer.
Vorteile:
- Vereinfacht die Client-Einrichtung und -Anbindung.
- Macht die Konfiguration von Kerberos-Client-Dateien wie krb5.conf, keytab und hosts überflüssig.
- Bleibt kompatibel mit Clustern, die im Kerberos-fähigen Sicherheitsmodus betrieben werden.
Diese Erweiterung reduziert die Komplexität des Betriebs und gewährleistet gleichzeitig einen sicheren Zugriff auf Hive-Dienste.
Scheduled Policies für dynamische Ressourcenpläne
Dynamische Ressourcenpläne wurden um die Unterstützung geplanter Richtlinien erweitert.
Zu den Funktionen gehören:
- Definition unterschiedlicher Strategien zur Ressourcenzuweisung für verschiedene Zeiträume.
- Automatische Anpassung von Ressourcenplänen auf der Grundlage von Geschäftsabläufen und Auslastungsmustern.
- Verbesserung der Ressourcenauslastung und der Cluster-Effizienz über den gesamten Tag hinweg.
Diese Funktion ermöglicht ein flexibleres und intelligenteres Ressourcenmanagement.
HBase-Unterstützung für Phoenix Query Server
HBase unterstützt nun PhoenixQueryServer-Instanzen.
Wichtigste Vorteile:
- Ermöglicht den Zugriff auf HBase-Daten im SQL-Stil über Apache Phoenix.
- Unterstützt die Anbindung über leichtgewichtige Phoenix-Clients.
- Vereinfacht Analyse- und Anwendungsintegrationsszenarien.
Diese Erweiterung macht HBase-Daten für Entwickler und Analysten leichter zugänglich.
Geplante Optimierung für FlinkServer-Jobs
FlinkServer unterstützt nun die geplante Job-Optimierung, wodurch die Parallelität der Operatoren zu vordefinierten Zeitpunkten automatisch angepasst werden kann.
Highlights:
- Aktualisiert die Parallelität der Operatoren dynamisch, um sie an die Anforderungen der Arbeitslast anzupassen.
- Unterstützt SQL-Streaming-Jobs, die in Active/Standby-Bereitstellungen ausgeführt werden.
- Pro Job können bis zu fünf Optimierungspläne konfiguriert werden.
- Ermöglicht eine verbesserte Ressourcenauslastung und Arbeitslasteffizienz.
Wichtige Hinweise:
- Wird nur für Jobs im Status „Running“ unterstützt.
- Nicht verfügbar für Aktiv-Aktiv-Bereitstellungen.
- Ausschließlich verfügbar für Jobs, die über FlinkServer übermittelt wurden.
- Verwendet den adaptiven Scheduler, wenn die geplante Optimierung aktiviert ist.
- Die maximal unterstützte Operator-Parallelität beträgt 32.768.
Diese Funktion hilft Kunden dabei, Streaming-Workloads zu optimieren und gleichzeitig den manuellen Betriebsaufwand zu reduzieren.
Weitere Informationen finden Sie im MapReduce Service (MRS) Bereich des Help Centers.
Haben Sie Fragen?
Wir beantworten Ihre Fragen zu Testmöglichkeit, Buchung und Nutzung – kostenfrei und individuell. Probieren Sie es aus! Hotline: 24 Stunden am Tag, 7 Tage die Woche
0800 3304477 aus Deutschland / 00800 33044770 aus dem Ausland