区块链数据节点消失,区块链数据同步的java实现

  

  对于我们开发的网站,如果网站的访问量非常大,那么就需要考虑相关的并发访问量。并发对于大多数程序员来说都是一个很头疼的问题,不过话说回来,既然无法逃避,那就坦然面对吧~今天我们一起来研究常见的并发和同步。为了更好的理解并发和同步,我们需要先理解两个重要的概念:3360同步和异步1。同步和异步的区别和联系。所谓同步,可以理解为执行一个函数或方法后,等待系统返回值或消息。此时程序被阻塞,只有收到返回值或消息后才会执行其他命令。异步,在执行一个函数或方法后,你不必以一种阻碍的方式等待返回值或消息,而只需要委托一个异步进程给系统。然后,当系统收到返回值或消息时,系统会自动触发委托异步流程,从而完成一个完整的流程。在一定程度上,同步可以看作是一个单线程。这个线程请求了一个方法后,会等待这个方法回复他,否则就不进行了(死硬)。在一定程度上,异步可以看作是多线程(废话,一个线程怎么能叫异步)。请求一个方法后,可以忽略它,继续执行其他方法。同步意味着一次做一件事。异步是指在没有提示的情况下做一件事,做另一件事。比如吃饭和说话,一次只能做一件事,因为只有一张嘴。但是吃饭和听音乐是异步的,因为听音乐不会诱导我们吃饭。对于Java程序员来说,我们经常会听到同步关键字synchronized。如果同步的监控对象是一个类,如果一个对象访问类中的同步方法,其他对象如果想继续访问类中的同步方法,就会被阻塞。只有在前一个对象执行完同步方法后,当前对象才能继续执行该方法。这就是同步。相反,如果方法前没有同步关键字修饰,那么不同的对象可以同时访问同一个方法,这就是异步。补充一下(脏数据和不可重复读取的相关概念),脏数据脏读取是指当一个事务正在访问数据并对数据进行修改,但修改还没有提交到数据库时,另一个事务也访问了数据,然后使用了数据。因为这个数据是未提交的数据,所以另一个事务读取的数据是脏数据,基于脏数据的操作可能是不正确的。不可重复读取不可重复读取是指在一个事务中多次读取相同的数据。在这个事务完成之前,另一个事务也访问相同的数据。然后,在第一事务中的两次数据读取之间,由于第二事务的修改,第一事务中读取的数据可能不同。这样一个事务中两次读取的数据是不一样的,所以叫不可重复。2.如何处理并发和同步?今天如何处理并发和同步主要是通过锁机制。我们需要理解锁定机制有两个层次。一个是代码层面的,比如java中的同步锁,比较典型的就是同步关键字,这里不做过多解释。另一种是数据库级的,比较典型的有悲观锁和乐观锁。这里我们重点介绍悲观锁(传统的物理锁)和乐观锁。悲观锁定):悲观锁定顾名思义,是指对外界对数据的修改(包括本系统当前的其他事务和来自外部系统的事务)保持保守的态度。因此,在整个数据处理过程中,数据是被锁定的。悲观锁的实现往往依赖于数据库提供的锁机制(只有数据库层提供的锁机制才能真正保证数据访问的排他性,否则即使在本系统中实现了锁机制,也不能保证外部系统不会修改数据)。   

  

  依赖于数据库的典型悲观锁调用:select * from account where name=" Erica " for update。这个sql语句锁定account表中符合搜索条件的所有记录(name="Erica ")。在这个事务提交之前(事务提交时会释放事务流程中的锁),这些记录是不能被外界修改的。Hibernate的悲观锁也是基于数据库锁机制的。以下代码锁定查询记录:string hql str=' from tuser as user where user。name=' Ericaquery query=session . create query(hqlStr);query.setLockMode('user ',LockMode。升级);//锁定列表userList=query . List();//执行查询并获取数据。query.setLockMode锁定查询语句中特定别名对应的记录(我们为TUser类指定了一个别名“user”),这意味着锁定所有返回的用户记录。观察Hibernate在运行时生成的SQL语句:select tuser0 _。id为id,tuser0 _。name as name,tuser0 _。group _ id为group _ id,tuser0 _。user _ type为user _ type,Tuser0 _。sex as sex from t _ user tuser 0 _ where(tuser 0 _。这里Hibernate通过使用数据库的for update子句来实现悲观锁定机制。Hibernate的锁定模式有:LockMode。无:无锁机制。锁定模式。Write: Hibernate在插入和更新记录时自动获取lockmode。Read: Hibernate在读取记录时自动获取。以上三种   

锁机制一般由 Hibernate 内部使用,如 Hibernate 为了保证 Update 过程中对象不会被外界修改,会在 save 方法实现中自动为目标对象加上 WRITE 锁。 LockMode.UPGRADE :利用数据库的 for update 子句加锁。 LockMode. UPGRADE_NOWAIT : Oracle 的特定实现,利用 Oracle 的 for update nowait 子句实现加锁。 上面这两种锁机制是我们在应用层较为常用的,加锁一般通过以下方法实现: Criteria.setLockMode Query.setLockMode Session.lock 注意,只有在查询开始之前(也就是 Hiberate 生成 SQL 之前)设定加锁,才会 真正通过数据库的锁机制进行加锁处理,否则,数据已经通过不包含 for update 子句的 Select SQL 加载进来,所谓数据库加锁也就无从谈起。 为了更好的理解select... for update的锁表的过程,本人将要以mysql为例,进行相应的讲解 1、要测试锁定的状况,可以利用MySQL的Command Mode ,开二个视窗来做测试。 表的基本结构如下:

  

表中内容如下:

  

开启两个测试窗口,在其中一个窗口执行select * from ta for update0 然后在另外一个窗口执行update操作如下图:

  

等到一个窗口commit后的图片如下:

  

到这里,悲观锁机制你应该了解一些了吧~ 需要注意的是for update要放到mysql的事务中,即begin和commit中,否者不起作用。 至于是锁住整个表还是锁住选中的行至于hibernate中的悲观锁使用起来比较简单,这里就不写demo了~感兴趣的自己查一下就ok了~ 乐观锁(Optimistic Locking): 相对悲观锁而言,乐观锁机制采取了更加宽松的加锁机制。悲观锁大多数情况下依 靠数据库的锁机制实现,以保证操作最大程度的独占性。但随之而来的就是数据库 性能的大量开销,特别是对长事务而言,这样的开销往往无法承受。 如一个金融系统,当某个操作员读取用户的数据,并在读出的用户数据的基础上进 行修改时(如更改用户帐户余额),如果采用悲观锁机制,也就意味着整个操作过 程中(从操作员读出数据、开始修改直至提交修改结果的全过程,甚至还包括操作 员中途去煮咖啡的时间),数据库记录始终处于加锁状态,可以想见,如果面对几 百上千个并发,这样的情况将导致怎样的后果。 乐观锁机制在一定程度上解决了这个问题。乐观锁,大多是基于数据版本 Version )记录机制实现。何谓数据版本?即为数据增加一个版本标识,在基于数据库表的版本解决方案中,一般是通过为数据库表增加一个 “version” 字段来 实现。 读取出数据时,将此版本号一同读出,之后更新时,对此版本号加一。此时,将提 交数据的版本数据与数据库表对应记录的当前版本信息进行比对,如果提交的数据 版本号大于数据库表当前版本号,则予以更新,否则认为是过期数据。 对于上面修改用户帐户信息的例子而言,假设数据库中帐户信息表中有一个 version 字段,当前值为 1 ;而当前帐户余额字段( balance )为 $100 。 操作员 A 此时将其读出( version=1 ),并从其帐户余额中扣除 $50( $100-$50 )。 2 在操作员 A 操作的过程中,操作员 B 也读入此用户信息( version=1 ),并 从其帐户余额中扣除 $20 ( $100-$20 )。 3 操作员 A 完成了修改工作,将数据版本号加一( version=2 ),连同帐户扣 除后余额( balance=$50 ),提交至数据库更新,此时由于提交数据版本大 于数据库记录当前版本,数据被更新,数据库记录 version 更新为 2 。 4 操作员 B 完成了操作,也将版本号加一( version=2 )试图向数据库提交数 据( balance=$80 ),但此时比对数据库记录版本时发现,操作员 B 提交的 数据版本号为 2 ,数据库记录当前版本也为 2 ,不满足 “ 提交版本必须大于记 录当前版本才能执行更新 “ 的乐观锁策略,因此,操作员 B 的提交被驳回。 这样,就避免了操作员 B 用基于 version=1 的旧数据修改的结果覆盖操作 员 A 的操作结果的可能。 从上面的例子可以看出,乐观锁机制避免了长事务中的数据库加锁开销(操作员 A 和操作员 B 操作过程中,都没有对数据库数据加锁),大大提升了大并发量下的系 统整体性能表现。 需要注意的是,乐观锁机制往往基于系统中的数据存储逻辑,因此也具备一定的局 限性,如在上例中,由于乐观锁机制是在我们的系统中实现,来自外部系统的用户 余额更新操作不受我们系统的控制,因此可能会造成脏数据被更新到数据库中。在 系统设计阶段,我们应该充分考虑到这些情况出现的可能性,并进行相应调整(如 将乐观锁策略在数据库存储过程中实现,对外只开放基于此存储过程的数据更新途 径,而不是将数据库表直接对外公开)。 Hibernate 在其数据访问引擎中内置了乐观锁实现。如果不用考虑外部系统对数 据库的更新操作,利用 Hibernate 提供的透明化乐观锁实现,将大大提升我们的 生产力。Hibernate 中可以通过 class 描述符的 optimistic-lock 属性结合 version描述符指定。 现在,我们为之前示例中的 User 加上乐观锁机制。 1 . 首先为 User 的POJO classpackage com.xiaohao.test; public class User { private Integer id; private String userName; private String password; private int version; public int getVersion() { return version;}public void setVersion(int version) { this.version = version;}public Integer getId() { return id;} public void setId(Integer id) { this.id = id;}public String getUserName() { return userName;}public void setUserName(String userName) { this.userName = userName;}public String getPassword() { return password;}public void setPassword(String password) { this.password = password;}public User() {} public User(String userName, String password) { super(); this.userName = userName; this.password = password;}} 然后是User.hbm.xml<?xml version="1.0"?><!DOCTYPE hibernate-mapping PUBLIC "-//Hibernate/Hibernate Mapping DTD 3.0//EN" "http://hibernate.sourceforge.net/hibernate-mapping-3.0.dtd"> <hibernate-mapping package="com.xiaohao.test"> <class name="User" table="user" optimistic-lock="version" > <id name="id"> <generator class="native" /> </id> <!--version标签必须跟在id标签后面--> <version column="version" name="version" /> <property name="userName"/> <property name="password"/> </class> </hibernate-mapping>注意 version 节点必须出现在 ID 节点之后。 这里我们声明了一个 version 属性,用于存放用户的版本信息,保存在 User 表的version中 optimistic-lock 属性有如下可选取值: none无乐观锁 version通过版本机制实现乐观锁 dirty通过检查发生变动过的属性实现乐观锁 all通过检查所有属性实现乐观锁 其中通过 version 实现的乐观锁机制是 Hibernate 官方推荐的乐观锁实现,同时也 是 Hibernate 中,目前唯一在数据对象脱离 Session 发生修改的情况下依然有效的锁机 制。因此,一般情况下,我们都选择 version 方式作为 Hibernate 乐观锁实现机制。 2 . 配置文件hibernate.cfg.xml和UserTest测试类 hibernate.cfg.xml<!DOCTYPE hibernate-configuration PUBLIC "-//Hibernate/Hibernate Configuration DTD 3.0//EN" "http://hibernate.sourceforge.net/hibernate-configuration-3.0.dtd"><hibernate-configuration><session-factory> <!-- 指定数据库方言 如果使用jbpm的话,数据库方言只能是InnoDB--> <property name="dialect">org.hibernate.dialect.MySQL5InnoDBDialect</property> <!-- 根据需要自动创建数据表 --> <property name="hbm2ddl.auto">update</property> <!-- 显示Hibernate持久化操作所生成的SQL --> <property name="show_sql">true</property> <!-- 将SQL脚本进行格式化后再输出 --> <property name="format_sql">false</property> <property name="current_session_context_class">thread</property> <!-- 导入映射配置 --> <property name="connection.url">jdbc:mysql:///user</property> <property name="connection.username">root</property> <property name="connection.password">123456</property> <property name="connection.driver_class">com.mysql.jdbc.Driver</property> <mapping resource="com/xiaohao/test/User.hbm.xml" /></session-factory></hibernate-configuration>UserTest.javapackage com.xiaohao.test;import org.hibernate.Session;import org.hibernate.SessionFactory;import org.hibernate.Transaction;import org.hibernate.cfg.Configuration; public class UserTest { public static void main(String<> args) { Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory(); Session session=sf.getCurrentSession(); Transaction tx=session.beginTransaction();// User user=new User("小浩","英雄");// session.save(user);// session.createSQLQuery("insert into user(userName,password) value('张英雄16','123')")// .executeUpdate(); User user=(User) session.get(User.class, 1); user.setUserName("221");// session.save(user); System.out.println("恭喜您,用户的数据插入成功了哦~~"); tx.commit(); } }每次对 TUser 进行更新的时候,我们可以发现,数据库中的 version 都在递增。下面我们将要通过乐观锁来实现一下并发和同步的测试用例:这里需要使用两个测试类,分别运行在不同的虚拟机上面,以此来模拟多个用户同时操作一张表,同时其中一个测试类需要模拟长事务UserTest.javapackage com.xiaohao.test;package com.xiaohao.test; import org.hibernate.Session;import org.hibernate.SessionFactory;import org.hibernate.Transaction;import org.hibernate.cfg.Configuration; public class UserTest { public static void main(String<> args) { Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory(); Session session=sf.openSession();// Session session2=sf.openSession(); User user=(User) session.createQuery(" from User user where user=5").uniqueResult();// User user2=(User) session.createQuery(" from User user where user=5").uniqueResult(); System.out.println(user.getVersion());// System.out.println(user2.getVersion()); Transaction tx=session.beginTransaction(); user.setUserName("101"); tx.commit(); System.out.println(user.getVersion());// System.out.println(user2.getVersion());// System.out.println(user.getVersion import org.hibernate.Session;import org.hibernate.SessionFactory;import org.hibernate.Transaction;import org.hibernate.cfg.Configuration; public class UserTest { public static void main(String<> args) { Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory(); Session session=sf.openSession();// Session session2=sf.openSession(); User user=(User) session.createQuery(" from User user where user=5").uniqueResult();// User user2=(User) session.createQuery(" from User user where user=5").uniqueResult(); System.out.println(user.getVersion());// System.out.println(user2.getVersion()); Transaction tx=session.beginTransaction(); user.setUserName("101"); tx.commit(); System.out.println(user.getVersion());// System.out.println(user2.getVersion());// System.out.println(user.getVersion()==user2.getVersion());// Transaction tx2=session2.beginTransaction();// user2.setUserName("4468");// tx2.commit(); } } UserTest2.java

  

package com.xiaohao.test; import org.hibernate.Session;import org.hibernate.SessionFactory;import org.hibernate.Transaction;import org.hibernate.cfg.Configuration; public class UserTest2 { public static void main(String<> args) throws InterruptedException { Configuration conf=new Configuration().configure(); SessionFactory sf=conf.buildSessionFactory(); Session session=sf.openSession();// Session session2=sf.openSession(); User user=(User) session.createQuery(" from User user where user=5").uniqueResult(); Thread.sleep(10000);// User user2=(User) session.createQuery(" from User user where user=5").uniqueResult(); System.out.println(user.getVersion());// System.out.println(user2.getVersion()); Transaction tx=session.beginTransaction(); user.setUserName("100"); tx.commit(); System.out.println(user.getVersion());// System.out.println(user2.getVersion());// System.out.println(user.getVersion()==user2.getVersion());// Transaction tx2=session2.beginTransaction();// user2.setUserName("4468");// tx2.commit(); } } 操作流程及简单讲解: 首先启动UserTest2.java测试类,在执行到Thread.sleep(10000);这条语句的时候,当前线程会进入睡眠状态。在10秒钟之内

  

启动UserTest这个类,在到达10秒的时候,我们将会在UserTest.java中抛出下面的异常:

  

Exception in thread "main" org.hibernate.StaleObjectStateException: Row was updated or deleted by another transaction (or unsaved-value mapping was incorrect): at org.hibernate.persister.entity.AbstractEntityPersister.check(AbstractEntityPersister.java:1932) at org.hibernate.persister.entity.AbstractEntityPersister.update(AbstractEntityPersister.java:2576) at org.hibernate.persister.entity.AbstractEntityPersister.updateOrInsert(AbstractEntityPersister.java:2476) at org.hibernate.persister.entity.AbstractEntityPersister.update(AbstractEntityPersister.java:2803) at org.hibernate.action.EntityUpdateAction.execute(EntityUpdateAction.java:113) at org.hibernate.engine.ActionQueue.execute(ActionQueue.java:273) at org.hibernate.engine.ActionQueue.executeActions(ActionQueue.java:265) at org.hibernate.engine.ActionQueue.executeActions(ActionQueue.java:185) at org.hibernate.event.def.AbstractFlushingEventListener.performExecutions(AbstractFlushingEventListener.java:321) at org.hibernate.event.def.DefaultFlushEventListener.onFlush(DefaultFlushEventListener.java:51) at org.hibernate.impl.SessionImpl.flush(SessionImpl.java:1216) at org.hibernate.impl.SessionImpl.managedFlush(SessionImpl.java:383) at org.hibernate.transaction.JDBCTransaction.commit(JDBCTransaction.java:133) at com.xiaohao.test.UserTest2.main(UserTest2.java:21) UserTest2代码将在 tx.commit() 处抛出 StaleObjectStateException 异 常,并指出版本检查失败,当前事务正在试图提交一个过期数据。通过捕捉这个异常,我 们就可以在乐观锁校验失败时进行相应处理

  

3、常见并发同步案例分析

  

案例一:订票系统案例,某航班只有一张机票,假定有1w个人打开你的网站来订票,问你如何解决并发问题(可扩展到任何高并发网站要考虑的并发读写问题)

  

问题,1w个人来访问,票没出去前要保证大家都能看到有票,不可能一个人在看到票的时候别人就不能看了。到底谁能抢到,那得看这个人的“运气”(网络快慢等)

  

其次考虑的问题,并发,1w个人同时点击购买,到底谁能成交?总共只有一张票。

  

首先我们容易想到和并发相关的几个方案 :

  

锁同步同步更多指的是应用程序的层面,多个线程进来,只能一个一个的访问,java中指的是syncrinized关键字。锁也有2个层面,一个是java中谈到的对

  

象锁,用于线程同步;另外一个层面是数据库的锁;如果是分布式的系统,显然只能利用数据库端的锁来实现。

  

假定我们采用了同步机制或者数据库物理锁机制,如何保证1w个人还能同时看到有票,显然会牺牲性能,在高并发网站中是不可取的。使用hibernate后我们

  

提出了另外一个概念:乐观锁悲观锁(即传统的物理锁);

  

采用乐观锁即可解决此问题。乐观锁意思是不锁定表的情况下,利用业务的控制来解决并发问题,这样即保证数据的并发可读性又保证保存数据的排他性,保

  

证性能的同时解决了并发带来的脏数据问题。

  

hibernate中如何实现乐观锁:

  

前提:在现有表当中增加一个冗余字段,version版本号, long类型

  

原理:

  

1)只有当前版本号》=数据库表版本号,才能提交

  

2)提交成功后,版本号version ++

  

实现很简单:在ormapping增加一属性optimistic-lock="version"即可,以下是样例片段

  

<hibernate-mapping>

  

<class name="com.insigma.stock.ABC" optimistic-lock="version" table="T_Stock" schema="STOCK">

  

案例二、股票交易系统、银行系统,大数据量你是如何考虑的

  

首先,股票交易系统的行情表,每几秒钟就有一个行情记录产生,一天下来就有(假定行情3秒一个) 股票数量×20×60*6 条记录,一月下来这个表记录数

  

量多大? oracle中一张表的记录数超过100w后 查询性能就很差了,如何保证系统性能?

  

再比如,中国移动有上亿的用户量,表如何设计?把所有用于存在于一个表么?

  

所以,大数量的系统,必须考虑表拆分-(表名字不一样,但是结构完全一样),通用的几种方式:(视情况而定)

  

1)按业务分,比如 手机号的表,我们可以考虑 130开头的作为一个表,131开头的另外一张表 以此类推

  

2)利用oracle的表拆分机制做分表

  

3)如果是交易系统,我们可以考虑按时间轴拆分,当日数据一个表,历史数据弄到其它表。这里历史数据的报表和查询不会影响当日交易。

  

当然,表拆分后我们的应用得做相应的适配。单纯的or-mapping也许就得改动了。比如部分业务得通过存储过程等

  

此外,我们还得考虑缓存

  

这里的缓存,指的不仅仅是hibernate,hibernate本身提供了一级二级缓存。这里的缓存独立于应用,依然是内存的读取,假如我们能减少数据库频繁的访

  

问,那对系统肯定大大有利的。比如一个电子商务系统的商品搜索,如果某个关键字的商品经常被搜,那就可以考虑这部分商品列表存放到缓存(内存中

  

去),这样不用每次访问数据库,性能大大增加。

  

简单的缓存大家可以理解为自己做一个hashmap,把常访问的数据做一个key,value是第一次从数据库搜索出来的值,下次访问就可以从map里读取,而不

  

读数据库;专业些的目前有独立的缓存框架比如memcached 等,可独立部署成一个缓存服务器。

  

4、常见的提高高并发下访问的效率的手段

  

首先要了解高并发的的瓶颈在哪里?

  

1、可能是服务器网络带宽不够

  

2.可能web线程连接数不够

  

3.可能数据库连接查询上不去。

  

根据不同的情况,解决思路也不同。

  

像第一种情况可以增加网络带宽,DNS域名解析分发多台服务器。负载均衡,前置代理服务器nginx、apache等等数据库查询优化,读写分离,分表等等 最后复制一些在高并发下面需要常常需要处理的内容:

  

尽量使用缓存,包括用户缓存,信息缓存等,多花点内存来做缓存,可以大量减少与数据库的交互,提高性能。用jprofiler等工具找出性能瓶颈,减少额外的开销。优化数据库查询语句,减少直接使用hibernate等工具的直接生成语句(仅耗时较长的查询做优化)。优化数据库结构,多做索引,提高查询效率。统计的功能尽量做缓存,或按每天一统计或定时统计相关报表,避免需要时进行统计的功能。能使用静态页面的地方尽量使用,减少容器的解析(尽量将动态内容生成静态html来显示)。解决以上问题后,使用服务器集群来解决单台的瓶颈问题。Java进阶高并发面试资料后台私信我666即可获取。

相关文章