- 实时数据流计算引擎Flink和Spark剖析
程小舰
flinkspark数据库kafkahadoop
在过去几年,业界的主流流计算引擎大多采用SparkStreaming,随着近两年Flink的快速发展,Flink的使用也越来越广泛。与此同时,Spark针对SparkStreaming的不足,也继而推出了新的流计算组件。本文旨在深入分析不同的流计算引擎的内在机制和功能特点,为流处理场景的选型提供参考。(DLab数据实验室w.x.公众号出品)一.SparkStreamingSparkStreamin
- python笔记14介绍几个魔法方法
抢公主的大魔王
pythonpython
python笔记14介绍几个魔法方法先声明一下各位大佬,这是我的笔记。如有错误,恳请指正。另外,感谢您的观看,谢谢啦!(1).__doc__输出对应的函数,类的说明文档print(print.__doc__)print(value,...,sep='',end='\n',file=sys.stdout,flush=False)Printsthevaluestoastream,ortosys.std
- Java8 Stream流的sorted()的排序【正序、倒序、多字段排序】
Tony666688888
javawindows开发语言
针对集合排序,java8可以用Stream流的sorted()进行排序。示例Bean以下我们会使用这个Bean来做示例。publicclassOrder{privateStringweight;privateDoubleprice;privateStringdateStr;//忽略getter、setter、构造方法、toString}字段排序首先是比较器Comparator,形式如下:Compa
- GDP经济社会人文民生栅格数据下载网站汇总
疯狂学习GIS
本文为“GIS数据获取整理”专栏(https://blog.csdn.net/zhebushibiaoshifu/category_10857546.html)中第八篇独立博客,因此本文全部标题均由“8”开头。本文对目前主要的GDP、社会与经济数据获取网站加以整理与介绍,若需其它GIS领域数据(如遥感影像数据、气象数据、土地土壤数据、农业数据等),大家可以点击上方专栏查看,也可以看这一篇汇总文
- GitLab 18.2 发布几十项与 DevSecOps 有关的功能,可升级体验【二】
极小狐
gitlab极狐gitlabdevsecopsdevopsci/cd
沿袭我们的月度发布传统,极狐GitLab发布了18.2版本,该版本带来了议题和任务的自定义工作流状态、新的合并请求主页、新的群组概览合规仪表盘、下载安全报告的PDF导出文件、中心化的安全策略管理(Beta)等几十个重点功能的改进。下面是对部分重点功能的详细解读。关于极狐GitLab的安装升级,可以查看官方指导文档。18.2.0容器镜像registry.gitlab.cn/omnibus/gitla
- Docker
℡余晖^
黑马点评项目相关问题和笔记dockereureka容器
在黑马点评项目中,在谈到Redisson解决redis的主从一致性问题时,弹幕提到了Docker,本文来简单了解一下Docker,我的初步理解运维是维护多个集群的稳定,那它和VM虚拟机的区别又是什么?,如果要更深入地理解与学习(运维工程师),可以到b站搜索专门的课程(SpringCloud)。一、Docker是什么?重新理解“容器化”的本质1.1Docker的定义Docker是一个开源的容器化平台
- Spring Boot与云原生:微服务架构的创新实践
tmjpz04412
springkubernetes云原生javagraphql
引言:Spring生态的演进与现状Spring框架的发展历程与核心设计理念当前Spring生态的核心组件(SpringBoot、SpringCloud、SpringData等)行业对Spring生态的依赖与创新需求SpringBoot的创新实践1.自动化配置与启动优化条件装配(@Conditional)的深度定制案例启动类加载机制与类路径扫描优化示例:通过自定义Starter实现快速集成第三方服务
- Java 笔记 transient 用法
transient关键字用于标记不希望被序列化(Serialization)的字段。序列化是指将对象的状态保存到字节流中,以便将其传输或存储。当使用如ObjectOutputStream进行序列化时,transient修饰的字段将不会被序列化。✅1.使用场景避免序列化敏感信息privatetransientStringpassword;某些字段不需要持久化(如缓存、临时数据)privatetran
- streamline 这是个组合词,能猜出大概意思,组织
董八七
title:streamlinedate:2018-08-2117:03:19NO_sents:76NO_references:58streamlinestreamlinedstreamlines组织一些流程(process)AlthoughfixedguidelineswouldsimplifyGWASPAsubstantiallybyprovidinganalytictoolsthatstre
- HEI-612:工业协议转换的全能网关,让设备通信更简单高效
在工业自动化的复杂网络中,不同协议设备的“语言壁垒”常常成为数据流通的阻碍——HART设备的精准监测数据难以接入EtherNet/IP或ModbusTCP网络,多点设备联动时的通信延迟、调试繁琐等问题更是让工程师头疼。而HEI-612HART/工业以太网网关的出现,正是为了打破这些壁垒,以强大的技术特性和易用性,成为工业数据互通的“桥梁”。全能协议转换:无缝实现HART协议与EtherNet/IP
- datax数据抽取csv到mysql
datax数据抽取执行pythondatax.py-rstreamreader-wstreamwriter命令得到job的json模板建造者模式定义:封装一个
- Tensorflow-gpu运行时报错Non-OK-status: GpuLaunchKernel
GEM的左耳返
pythontensorflow深度学习python
Tensorflow-gpu运行时报错Non-OK-status:GpuLaunchKernel(FillPhiloxRandomKernelLaunch,num_blocks,block_size,0,d.stream(),gen,data,size,dist)status:Internal:invaliddevicefunctionFatalPythonerror:Aborted说明你安装的C
- 【20年架构师韩艳威整理】CentOS Stream10磁盘管理第4章
韩公子的Linux大集市
Bash入门centoslinux运维
文章目录优化细化1:磁盘识别与扫描(增强版)优化细化2:GPT分区高级操作优化细化3:文件系统优化参数优化细化4:LVM元数据管理优化细化5:LVM高级扩容技巧优化细化6:LVM快照管理优化细化7:LVM精简配置优化细化8:故障处理与恢复优化细化9:性能监控与调优优化细化10:安全与权限管理终极操作对比表:普通分区vsLVM灾难恢复检查清单以下是对CentOSStream10中BashShell磁
- 【20年架构师韩艳威整理】CentOS Stream10磁盘管理第1章
韩公子的Linux大集市
Bash入门centoslinux运维
文章目录一、普通分区管理1.查看磁盘信息2.创建新分区3.格式化分区4.挂载分区5.卸载分区二、LVM分区管理1.LVM基本概念2.创建LVM3.扩展LVM4.缩减LVM(谨慎操作)5.删除LVM三、实用监控命令1.磁盘使用情况2.LVM状态监控3.磁盘健康状态四、实用技巧1.永久设备名(使用UUID挂载)2.创建交换分区3.修复文件系统五、注意事项在CentOSStream10中使用BashSh
- AI大模型分层技术体系数据模型 每个架构的核心要点
在4A架构(业务架构、数据架构、应用架构、技术架构)方法论中,每个架构都有其明确的核心定位和关键要点,它们相互支撑、协同作用,共同构成产品规划的完整框架。以下是各架构的核心要点解析:一、业务架构(BusinessArchitecture):以业务价值为核心,锚定“做什么”业务架构是产品规划的“战略层”,聚焦于业务目标与现实能力的匹配,明确产品的价值定位和边界。其核心要点包括:业务目标与价值映射核心
- 解决:FFmpeg推流时报错:Broken Pipe
-米兰的小铁匠
ffmpegpython
最初利用如下代码进行FFmpeg推流:importsubprocessimportcv2importnumpyasnpimporttimeclassRTMPStreamer:def__init__(self,rtmp_url,width,height,fps=30):self.rtmp_url=rtmp_urlself.width=widthself.height=heightself.fps=f
- SAP BW数据仓库总览
weixin_42559081
[分享]SAPBW数据仓库简介本文从一个简单的业务场景-销售分析入手,介绍SAPBW(BusinessInfomationWarehouse)实现多维分析的基本方案与实现技术;结合销售分析的实际需求,给出了销售分析管理数据仓库在SAPBW(业务信息仓库)模块中的实现过程描述。1、数据仓库的基本理论1.1数据仓库数据仓库是对数据进行提炼、加工和集成含有一定量商务信息和意义的信息。数据仓库不是为了存储
- SpringCloud seata全局事务
frt6668
SpringCloudSpringbootspringcloudspringboot后端
项目https://github.com/apache/incubator-seatadocker拉取启动server$dockerrun--nameseata-server-p8091:8091apache/seata-server:2.1.0seata注册到nacoscom.alibaba.cloudspring-cloud-starter-alibaba-seata2023.0.3.3在所有
- list<String>去重BUG
复盘一下:最近项目上出现了这样一个问题,前端传的参数是List类型的,里面的内容是数字,我用String接收,貌似没啥问题。但是。。。。Listlist=newArrayListlist2=list.stream().distinct().collect(Collectors.toList());System.out.println(list2);输出:[1,1,2][1,2]没啥问题,但是我给第
- CentOS-Stream-9 CentOS9 配置国内yum源-阿里云源
yum配置文件路径centos.repocentos.repo配置文件是CentOS系统中用于配置yum软件仓库(repository)的文件。这个文件定义了yum从哪些URL地址获取软件包。/etc/yum.repos.d/centos.repocentos-addons.repocentos-addons.repo配置文件是CentOS系统中用于配置额外软件仓库(repository)的yum
- centos9 配置yum源(清华源)
风异
centos
sudocp-r/etc/yum.repos.d/etc/yum.repos.d.backup备份yum源sudovim/etc/yum.repos.d/CentOS-Base.repo编辑yum源仓库[baseos]name=CentOSStream$releasever-BaseOSbaseurl=https://mirrors.tuna.tsinghua.edu.cn/centos-stre
- Java中给List<String>去重的4种方式
Java&Develop
Java开发javalistwindows
Java中给List去重的4种方式Listlist=newArrayListlist1=list.stream().distinct().collect(Collectors.toList());System.out.println("方式1:"+list1);//方式2:使用Set去重Setset=newHashSetlist2=newArrayListlinkedHashSet=newLink
- Spring Gateway转发websocket原理
李昂的数字之旅
SpringBootgatewaywebsocketspring网关
SpringCloudGateway简称SpringGateway,它可以转发请求到后端微服务。SpringGateway除了转发HTTP请求,也支持websocket请求。我们看下它是怎么实现的吧。配置支持websocket转发支持websocket转发,需要用到spring-cloud-starter-gateway,不要搞错成spring-cloud-starter-gateway-web。
- Spring Cloud Gateway接入WebSocket:实现实时通信
三无少女指南
websocket网络协议网络
在现代的微服务架构中,实时通信变得越来越重要。SpringCloudGateway作为SpringCloud生态中的API网关,提供了动态路由、监控、弹性、安全等功能。本文将介绍如何通过SpringCloudGateway接入WebSocket,实现服务之间的实时通信。为什么需要WebSocketWebSocket提供了全双工通信机制,允许服务器主动向客户端发送消息,这在需要实时数据推送的场景(如
- Spring Boot 与 Spring Cloud Stream:事件驱动与消息流处理的完美结合!
bug菌¹
springboot后端javaSpringBoot事件驱动消息流处理
本文收录于《滚雪球学SpringBoot》,专门攻坚指数提升,2025年国内最系统+最强(更新中)。 本专栏致力打造最硬核SpringBoot从零基础到进阶系列学习内容,均为全网独家首发,打造精品专栏,专栏持续更新中…欢迎大家订阅持续学习。如果想快速定位学习,可以看这篇【SpringBoot教程导航帖】,你想学习的都被收集在内,快速投入学习!!两不误。演示环境说明:开发工具:IDEA2021.3
- Crome:因果鲁棒奖励建模框架——破解LLM对齐中的奖励黑客难题
大千AI助手
人工智能#OTHERPython人工智能深度学习神经网络大模型因果推断奖励黑客RewardHacking
Crome(CausalRobustRewardModeling)是由GoogleDeepMind联合麦吉尔大学和魁北克人工智能研究所(MILA)于2025年提出的创新框架,旨在解决大语言模型(LLM)对齐中奖励模型(RM)的奖励黑客(RewardHacking)问题。该框架通过因果数据增强与反事实训练机制,显著提升RM对真实质量属性(如事实性、安全性)的敏感性,同时抑制对虚假属性(如文本长度、格
- 231、英语小故事(英汉对照)“在心里种花”
阁香书院
正文Anagedmanlivedinanicecottage(小木屋)withalargegardeninatowninEngland.Heisseenbusylookingafterhisflowersallthetime.在英国一座小镇上,有一个别致的小木屋,屋子里住着一个上了年纪的人,他有一个很大的花园。人们每天都能看到他在园子里忙着照看那些花儿。Onedayayoungpainterwen
- CentOS Stream10操作系统企业级初始化和安全优化
韩公子的Linux大集市
Bash入门centos安全linux
文章目录脚本核心功能说明使用说明以下是为CentOSStream10设计的专业级系统优化脚本,整合了安全加固、性能调优、资源管理及审计功能,严格遵循企业级运维规范:#!/usr/bin/envbash#文件名:centos10_enterprise_optimizer.sh#描述:CentOSStream10专业级系统优化脚本(安全加固+性能调优)#版本:7.0#最后更新:2025-07-28#特
- 揭秘Transformer架构:残差流与隐藏层的关系
ZhangJiQun&MXP
教学2024大模型以及算力2021AIpythontransformer深度学习人工智能linux算法
在Transformer架构的LLM中,“残差流”(residualstream)和“隐藏层”(hiddenlayers)是密切相关但不同的概念,前者是层间流动的核心数据,后者是处理这些数据的结构单元。1.残差流(ResidualStream):层间传递的“信息流”残差流指的是在Transformer层之间传递的核心张量,它是模型中“流动”的数据载体。其本质是通过“残差连接”(residualco
- 二分查找排序算法
周凡杨
java二分查找排序算法折半
一:概念 二分查找又称
折半查找(
折半搜索/
二分搜索),优点是比较次数少,查找速度快,平均性能好;其缺点是要求待查表为有序表,且插入删除困难。因此,折半查找方法适用于不经常变动而 查找频繁的有序列表。首先,假设表中元素是按升序排列,将表中间位置记录的关键字与查找关键字比较,如果两者相等,则查找成功;否则利用中间位置记录将表 分成前、后两个子表,如果中间位置记录的关键字大于查找关键字,则进一步
- java中的BigDecimal
bijian1013
javaBigDecimal
在项目开发过程中出现精度丢失问题,查资料用BigDecimal解决,并发现如下这篇BigDecimal的解决问题的思路和方法很值得学习,特转载。
原文地址:http://blog.csdn.net/ugg/article/de
- Shell echo命令详解
daizj
echoshell
Shell echo命令
Shell 的 echo 指令与 PHP 的 echo 指令类似,都是用于字符串的输出。命令格式:
echo string
您可以使用echo实现更复杂的输出格式控制。 1.显示普通字符串:
echo "It is a test"
这里的双引号完全可以省略,以下命令与上面实例效果一致:
echo Itis a test 2.显示转义
- Oracle DBA 简单操作
周凡杨
oracle dba sql
--执行次数多的SQL
select sql_text,executions from (
select sql_text,executions from v$sqlarea order by executions desc
) where rownum<81;
&nb
- 画图重绘
朱辉辉33
游戏
我第一次接触重绘是编写五子棋小游戏的时候,因为游戏里的棋盘是用线绘制的,而这些东西并不在系统自带的重绘里,所以在移动窗体时,棋盘并不会重绘出来。所以我们要重写系统的重绘方法。
在重写系统重绘方法时,我们要注意一定要调用父类的重绘方法,即加上super.paint(g),因为如果不调用父类的重绘方式,重写后会把父类的重绘覆盖掉,而父类的重绘方法是绘制画布,这样就导致我们
- 线程之初体验
西蜀石兰
线程
一直觉得多线程是学Java的一个分水岭,懂多线程才算入门。
之前看《编程思想》的多线程章节,看的云里雾里,知道线程类有哪几个方法,却依旧不知道线程到底是什么?书上都写线程是进程的模块,共享线程的资源,可是这跟多线程编程有毛线的关系,呜呜。。。
线程其实也是用户自定义的任务,不要过多的强调线程的属性,而忽略了线程最基本的属性。
你可以在线程类的run()方法中定义自己的任务,就跟正常的Ja
- linux集群互相免登陆配置
林鹤霄
linux
配置ssh免登陆
1、生成秘钥和公钥 ssh-keygen -t rsa
2、提示让你输入,什么都不输,三次回车之后会在~下面的.ssh文件夹中多出两个文件id_rsa 和 id_rsa.pub
其中id_rsa为秘钥,id_rsa.pub为公钥,使用公钥加密的数据只有私钥才能对这些数据解密 c
- mysql : Lock wait timeout exceeded; try restarting transaction
aigo
mysql
原文:http://www.cnblogs.com/freeliver54/archive/2010/09/30/1839042.html
原因是你使用的InnoDB 表类型的时候,
默认参数:innodb_lock_wait_timeout设置锁等待的时间是50s,
因为有的锁等待超过了这个时间,所以抱错.
你可以把这个时间加长,或者优化存储
- Socket编程 基本的聊天实现。
alleni123
socket
public class Server
{
//用来存储所有连接上来的客户
private List<ServerThread> clients;
public static void main(String[] args)
{
Server s = new Server();
s.startServer(9988);
}
publi
- 多线程监听器事件模式(一个简单的例子)
百合不是茶
线程监听模式
多线程的事件监听器模式
监听器时间模式经常与多线程使用,在多线程中如何知道我的线程正在执行那什么内容,可以通过时间监听器模式得到
创建多线程的事件监听器模式 思路:
1, 创建线程并启动,在创建线程的位置设置一个标记
2,创建队
- spring InitializingBean接口
bijian1013
javaspring
spring的事务的TransactionTemplate,其源码如下:
public class TransactionTemplate extends DefaultTransactionDefinition implements TransactionOperations, InitializingBean{
...
}
TransactionTemplate继承了DefaultT
- Oracle中询表的权限被授予给了哪些用户
bijian1013
oracle数据库权限
Oracle查询表将权限赋给了哪些用户的SQL,以备查用。
select t.table_name as "表名",
t.grantee as "被授权的属组",
t.owner as "对象所在的属组"
- 【Struts2五】Struts2 参数传值
bit1129
struts2
Struts2中参数传值的3种情况
1.请求参数绑定到Action的实例字段上
2.Action将值传递到转发的视图上
3.Action将值传递到重定向的视图上
一、请求参数绑定到Action的实例字段上以及Action将值传递到转发的视图上
Struts可以自动将请求URL中的请求参数或者表单提交的参数绑定到Action定义的实例字段上,绑定的规则使用ognl表达式语言
- 【Kafka十四】关于auto.offset.reset[Q/A]
bit1129
kafka
I got serveral questions about auto.offset.reset. This configuration parameter governs how consumer read the message from Kafka when there is no initial offset in ZooKeeper or
- nginx gzip压缩配置
ronin47
nginx gzip 压缩范例
nginx gzip压缩配置 更多
0
nginx
gzip
配置
随着nginx的发展,越来越多的网站使用nginx,因此nginx的优化变得越来越重要,今天我们来看看nginx的gzip压缩到底是怎么压缩的呢?
gzip(GNU-ZIP)是一种压缩技术。经过gzip压缩后页面大小可以变为原来的30%甚至更小,这样,用
- java-13.输入一个单向链表,输出该链表中倒数第 k 个节点
bylijinnan
java
two cursors.
Make the first cursor go K steps first.
/*
* 第 13 题:题目:输入一个单向链表,输出该链表中倒数第 k 个节点
*/
public void displayKthItemsBackWard(ListNode head,int k){
ListNode p1=head,p2=head;
- Spring源码学习-JdbcTemplate queryForObject
bylijinnan
javaspring
JdbcTemplate中有两个可能会混淆的queryForObject方法:
1.
Object queryForObject(String sql, Object[] args, Class requiredType)
2.
Object queryForObject(String sql, Object[] args, RowMapper rowMapper)
第1个方法是只查
- [冰川时代]在冰川时代,我们需要什么样的技术?
comsci
技术
看美国那边的气候情况....我有个感觉...是不是要进入小冰期了?
那么在小冰期里面...我们的户外活动肯定会出现很多问题...在室内呆着的情况会非常多...怎么在室内呆着而不发闷...怎么用最低的电力保证室内的温度.....这都需要技术手段...
&nb
- js 获取浏览器型号
cuityang
js浏览器
根据浏览器获取iphone和apk的下载地址
<!DOCTYPE html>
<html>
<head>
<meta charset="utf-8" content="text/html"/>
<meta name=
- C# socks5详解 转
dalan_123
socketC#
http://www.cnblogs.com/zhujiechang/archive/2008/10/21/1316308.html 这里主要讲的是用.NET实现基于Socket5下面的代理协议进行客户端的通讯,Socket4的实现是类似的,注意的事,这里不是讲用C#实现一个代理服务器,因为实现一个代理服务器需要实现很多协议,头大,而且现在市面上有很多现成的代理服务器用,性能又好,
- 运维 Centos问题汇总
dcj3sjt126com
云主机
一、sh 脚本不执行的原因
sh脚本不执行的原因 只有2个
1.权限不够
2.sh脚本里路径没写完整。
二、解决You have new mail in /var/spool/mail/root
修改/usr/share/logwatch/default.conf/logwatch.conf配置文件
MailTo =
MailFrom
三、查询连接数
- Yii防注入攻击笔记
dcj3sjt126com
sqlWEB安全yii
网站表单有注入漏洞须对所有用户输入的内容进行个过滤和检查,可以使用正则表达式或者直接输入字符判断,大部分是只允许输入字母和数字的,其它字符度不允许;对于内容复杂表单的内容,应该对html和script的符号进行转义替换:尤其是<,>,',"",&这几个符号 这里有个转义对照表:
http://blog.csdn.net/xinzhu1990/articl
- MongoDB简介[一]
eksliang
mongodbMongoDB简介
MongoDB简介
转载请出自出处:http://eksliang.iteye.com/blog/2173288 1.1易于使用
MongoDB是一个面向文档的数据库,而不是关系型数据库。与关系型数据库相比,面向文档的数据库不再有行的概念,取而代之的是更为灵活的“文档”模型。
另外,不
- zookeeper windows 入门安装和测试
greemranqq
zookeeper安装分布式
一、序言
以下是我对zookeeper 的一些理解: zookeeper 作为一个服务注册信息存储的管理工具,好吧,这样说得很抽象,我们举个“栗子”。
栗子1号:
假设我是一家KTV的老板,我同时拥有5家KTV,我肯定得时刻监视
- Spring之使用事务缘由(2-注解实现)
ihuning
spring
Spring事务注解实现
1. 依赖包:
1.1 spring包:
spring-beans-4.0.0.RELEASE.jar
spring-context-4.0.0.
- iOS App Launch Option
啸笑天
option
iOS 程序启动时总会调用application:didFinishLaunchingWithOptions:,其中第二个参数launchOptions为NSDictionary类型的对象,里面存储有此程序启动的原因。
launchOptions中的可能键值见UIApplication Class Reference的Launch Options Keys节 。
1、若用户直接
- jdk与jre的区别(_)
macroli
javajvmjdk
简单的说JDK是面向开发人员使用的SDK,它提供了Java的开发环境和运行环境。SDK是Software Development Kit 一般指软件开发包,可以包括函数库、编译程序等。
JDK就是Java Development Kit JRE是Java Runtime Enviroment是指Java的运行环境,是面向Java程序的使用者,而不是开发者。 如果安装了JDK,会发同你
- Updates were rejected because the tip of your current branch is behind
qiaolevip
学习永无止境每天进步一点点众观千象git
$ git push joe prod-2295-1
To
[email protected]:joe.le/dr-frontend.git
! [rejected] prod-2295-1 -> prod-2295-1 (non-fast-forward)
error: failed to push some refs to '
[email protected]
- [一起学Hive]之十四-Hive的元数据表结构详解
superlxw1234
hivehive元数据结构
关键字:Hive元数据、Hive元数据表结构
之前在 “[一起学Hive]之一–Hive概述,Hive是什么”中介绍过,Hive自己维护了一套元数据,用户通过HQL查询时候,Hive首先需要结合元数据,将HQL翻译成MapReduce去执行。
本文介绍一下Hive元数据中重要的一些表结构及用途,以Hive0.13为例。
文章最后面,会以一个示例来全面了解一下,
- Spring 3.2.14,4.1.7,4.2.RC2发布
wiselyman
Spring 3
Spring 3.2.14、4.1.7及4.2.RC2于6月30日发布。
其中Spring 3.2.1是一个维护版本(维护周期到2016-12-31截止),后续会继续根据需求和bug发布维护版本。此时,Spring官方强烈建议升级Spring框架至4.1.7 或者将要发布的4.2 。
其中Spring 4.1.7主要包含这些更新内容。