Wesley13 Wesley13
4年前
11张图了解HDFS的架构设计
HDFS介绍HDFS是一个适合部署在廉价机器上的,具有高度容错性的,高吞吐量的分布式文件系统。HDFS的设计理念支持超大规模数据集运行在HDFS上的应用具有很大的数据集。HDFS上的一个典型文件大小一般都在G字节至T字节。因此,HDFS被设计成支持大文件存储,能在一个集群里扩展到
Stella981 Stella981
4年前
Redis的锁
分布式与集群什么是锁在单进程的系统中,当存在多个线程可以同时改变某个变量(可变共享变量)时,就需要对变量或代码块做同步,使其在修改这种变量时能够线性执行消除并发修改变量。而同步的本质是通过锁来实现的。为了实现多个线程在一个时刻同一个代码块只能有一个线程可执行,那么需要在某个地方做个标记,这个标记必须
Stella981 Stella981
4年前
RabbitMQ 高可用之镜像队列
<p如果RabbitMQ集群只有一个broker节点,那么该节点的失效将导致整个服务临时性的不可用,并且可能会导致message的丢失(尤其是在非持久化message存储于非持久化queue中的时候)。可以将所有message都设置为持久化,并且使用持久化的queue,但是这样仍然无法避免由于缓存导致的问题:因为message在发送之后和被写入磁盘并执行f
Stella981 Stella981
4年前
Flink读取数据存入Redis中
1.环境准备:  1.搭建单机版的Redis  2.虚拟机上ncl9000方式产生数据2.需求分析:通过socket的ncl9000方式产生数据,然后将数据以list的形式存入到Redis中3.flink依赖的redis的pom文件     redis的依赖(https://www.oschina.net/ac
Wesley13 Wesley13
4年前
IBM MQ8.0配置
因为工作需要使用MQServer,使用HyperV安装的win7操作系统作为载体来搭建MQ环境。经过不断下一步,我们安装好了MQ。然后开始配置:队列管理器名:QM\_JACK服务器连接通道:CNN\_JACK端口:8927接收队列名:QUEUE\_RECV发送队列名:QUEUE\_REPLYMQ用户名:fromsilence(
Stella981 Stella981
4年前
Netty入门2之
在上一章中我们认识了netty,他有三大优点:并发高,传输快,封装好。在这一章我们来用Netty搭建一个HttpServer,从实际开发中了解netty框架的一些特性和概念。netty.png认识Http请求在动手写Netty框架之前,我们先要了解http请求的组成,如下图:HTTPresponsecomponentpa
Stella981 Stella981
4年前
Express简介
Express是一个基于Node.js平台,快速、开放、极简的web开发框架。它的官网地址:http://expressjs.com,中文网址:http://www.expressjs.com.cn/。本篇主要介绍一下Express项目的搭建。假设我们已经安装好了Node.js,现在创建一个目录作为我们的项目目录,进入这个目录下:$
Stella981 Stella981
4年前
Kubernetes YAML最佳实践和策略
Kubernetes工作负载最常用YAML格式的文件来定义。YAML的问题之一就是很难描述清单文件之间的约束或关系。如果你希望检查是否已从受信任的注册表中提取部署到群集中的所有映像,该怎么办?如何防止没有Pod安全策略的工作负载提交到集群?集成静态检查可以在更接近开发生命周期的时间内捕获错误和违反策略的行为。并且由于改善了资源定义
Stella981 Stella981
4年前
Kubernetes Pod OOM 排查日记
一、发现问题在一次系统上线后,我们发现某几个节点在长时间运行后会出现内存持续飙升的问题,导致的结果就是Kubernetes集群的这个节点会把所在的Pod进行驱逐OOM;如果调度到同样问题的节点上,也会出现Pod一直起不来的问题。我们尝试了杀死Pod后手动调度的办法(label),当然也可以排除调度节点。但是在一段时间后还会复现,我们通过监控
天翼云完成首个国产化万卡训练,MFU达到国内领先水平!
天翼云自研国内首个单集群万卡国产化全功能预训练云服务平台发布上线,并完成万卡规模Llama3.1405B大模型训练。Llama3.1405B作为4000亿参数的模型,在息壤训推服务平台的支持下经过多轮优化,MFU达到国内领先水平;另外,700亿参数模型Llama270B在万卡规模下完成训练,MFU也处于业界领先水平。