ArrayList使用内存映射文件

介绍

内存中的计算由于负担得起的硬件而开始兴起,大多数数据保留在RAM中以满足延迟和吞吐量的目标,但是将数据保留在RAM中会增加垃圾收集器的开销,尤其是在您不预先分配的情况下。 因此,有效地我们需要一种无垃圾/无垃圾的方法来避免GC打h

无垃圾/无垃圾数据结构

有两种选择可以实现它

对象池

对象池模式是一个很好的解决方案,我在Lock Less Object Pool博客中写过

堆外对象

JVM对创建堆外对象提供了很好的支持。 如果您走这条高速公路,并且高速公路有其自身的风险,您可以摆脱GC暂停!

就像世界上最好的一样,这是堆与堆的混合。

内存映射文件将允许映射内存中的部分数据,并且该内存将由OS管理,因此它将在正在映射文件的JVM进程中创建非常少的内存开销。 这可以帮助以无垃圾方式管理数据,并且您可以让JVM管理大型数据。 内存映射文件可用于开发IPC,我在Power-of-java-memorymapped-file博客中写道。 在此博客中,我将创建由MemoryMapped File备份的ArrayList,此阵列列表可以存储数百万个对象,几乎没有GC开销。 听起来很疯狂,但有可能。

让我们行动起来

在此测试中,我使用具有以下属性的Instrument对象

–整数ID

–双倍价格

因此,每个对象都是12个字节。 这个新的数组列表包含1000万个对象,我将尝试评估写入器/读取器的性能

作家表现

BigArrayList写入
X轴 –没有读数
Y轴 –以毫秒为单位增加一千万的时间

添加1000万个元素大约需要70毫秒,这非常快。

作家吞吐量

让我们看一下性能的另一个方面,即吞吐量:

BigArrayList WriteTP
X轴 –没有读数
Y轴 –吞吐量/秒,百万

作家吞吐量令人印象深刻,我的范围介于1.38亿1.42亿之间

读者表现

BigArrayList阅读器
X轴 –没有读数
Y轴 –读取1000万以毫秒为单位的时间

读取1000万条记录大约需要44毫秒,非常快。 凭借这种性能,您肯定会挑战数据库。
读者吞吐量

BigArrayList ReaderTP
X轴 –没有读数
Y轴 –吞吐量/秒,百万

哇吞吐量很棒,每秒220+百万

1.38亿/秒的写入器吞吐量和2.2亿/秒的读取器吞吐量来看,它看起来非常有前途。

与数组列表比较

让我们比较BigArrayList和ArrayList的性能,

作家吞吐量– BigArrayList与ArrayList

BigArrayList与ArrayList WriteTP
BigArrayList的吞吐量几乎恒定在1.38亿/秒, ArrayList以5000万 /秒开始,而下降到500万以下。

ArrayList有很多问题,这是由于

–阵列分配

–阵列复制

–垃圾收集开销

在这种情况下, BigArrayList是赢家,它比arraylist快7倍

读取器吞吐量– BigArrayList与ArrayList

BigArrayList与ArrayList ReaderTP
ArrayList的性能比BigArrayList更好,大约快1倍。

在这种情况下,BigArrayList较慢,因为

–随着请求更多数据,它必须将映射文件保留在内存中

–取消封送的成本

BigArrayList的读取器吞吐量为220+百万/秒,它仍然非常快,只有极少数的应用程序希望比此更快地处理消息。

因此,对于大多数用例来说,这应该可行。

使用以下技术可以提高阅读器性能

–从映射的流中批量读取消息

–通过使用索引来预取消息,就像CPU一样

通过进行上述更改,我们可以将性能提高几百万美元,但是我认为,在大多数情况下,当前的性能还是不错的

结论

内存映射文件是值得研究的领域,它可以解决许多性能问题。 Java现在正被用于开发交易应用程序,GC从一开始就是您必须回答的一个问题,您需要找到一种使GC保持快乐的方法,而MemoryMapped是GC会喜欢的一件事。

该博客使用的代码可在@GitHub上获得 ,我使用2gb内存进行了测试。 代码无法处理某些极端情况,但足以证明MemoryMapped文件在许多情况下都能胜出。

参考: ArrayList,使用我们的JCG合作伙伴 Ashkrit Sharma在“您准备好了”博客上的使用内存映射文件

翻译自: https://www.javacodegeeks.com/2013/07/arraylist-using-memory-mapped-file.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
SSM(Spring + Spring MVC + MyBatis)是一种常用的Java Web开发框架,它可以用来处理Web请求和数据库操作。要使用SSM读取Excel文件数据,可以按照以下步骤进行操作: 1. 引入相关依赖:在项目中引入Spring、Spring MVC、MyBatis和Apache POI等相关的依赖。Apache POI是一个用于处理Excel文件Java库。 2. 创建数据模型类:创建一个数据模型类,用于表示Excel文件中的数据。该类应该包含与Excel单元格对应的属性,以便于在MyBatis中映射数据。 3. 创建Excel读取器:使用Apache POI库创建一个Excel读取器,用于读取Excel文件中的数据。读取器可以读取整个Excel文件,并将其内容加载到内存中,以便于后续处理。 4. 创建MyBatis映射文件:创建一个MyBatis映射文件,用于定义如何从数据模型类中获取数据并将其存储到数据库中。映射文件中应该定义与Excel文件中的每一行相对应的SQL语句。 5. 编写DAO层代码:创建一个DAO层类,用于实现与数据库的交互。在该类中,可以使用MyBatis提供的注解或XML配置文件来定义SQL语句,并将Excel文件中的数据插入到数据库表中。 6. 调用DAO层方法:在控制器中调用DAO层方法,并将Excel文件作为参数传递给该方法。DAO层方法将读取Excel文件中的数据,并将其插入到数据库表中。 以下是一个简单的示例代码,展示了如何使用SSM读取Excel文件数据: 1. 在Spring配置文件中添加依赖: ```java <dependency> <groupId>org.springframework</groupId> <artifactId>spring-context</artifactId> <version>5.3.14</version> </dependency> <dependency> <groupId>org.apache.poi</groupId> <artifactId>poi-ooxml</artifactId> <version>5.1.0</version> </dependency> ``` 2. 创建数据模型类: ```java public class ExcelData { private int id; private String name; private double score; // getter和setter方法 } ``` 3. 创建Excel读取器: ```java public class ExcelReader { public List<ExcelData> readExcel(File excelFile) throws IOException { List<ExcelData> dataList = new ArrayList<>(); try (Workbook workbook = WorkbookFactory.create(excelFile)) { Sheet sheet = workbook.getSheetAt(0); for (Row row : sheet) { ExcelData data = new ExcelData(); data.setId(Integer.parseInt(row.getCell(0).getStringCellValue())); data.setName(row.getCell(1).getStringCellValue()); data.setScore(Double.parseDouble(row.getCell(2).getStringCellValue())); dataList.add(data); } } catch (Exception e) { e.printStackTrace(); } return dataList; } } ``` 4. 创建MyBatis映射文件:根据Excel文件中的数据结构,创建相应的MyBatis映射文件。这里不再赘述。 5. 编写DAO层代码:创建一个DAO层类,并使用MyBatis注解或XML配置文件来定义SQL语句。示例代码如下: ```java @Mapper public interface ExcelDataMapper { @Insert("INSERT INTO student (id, name, score) VALUES (#{id}, #{name}, #{score})") void insertData(@Param("data") ExcelData data); } ``` 6. 在控制器中调用DAO层方法:将Excel文件作为参数传递给DAO层方法,并将读取的数据插入到数据库表中。示例代码如下: ```java @RestController public class ExcelController { @Autowired private ExcelDataMapper excelDataMapper; @PostMapping("/readExcel") public List<ExcelData> readExcel(@RequestParam("file") MultipartFile file) throws IOException { File excelFile = new FileSystemResource(file.getInputStream()); List<ExcelData> dataList = excelDataMapper.readExcel(excelFile); return dataList; } } ``` 以上代码仅为示例,实际应用中需要根据具体需求进行修改和完善。另外,还需要考虑如何将数据插入到数据库表中的安全性、效率和性能等问题。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值