Presto【基础 01】简介+架构+数据源+数据模型

• Worker 是负责执行任务和处理数据。Worker 从 Connector 获取数据。Worker 之间会交换中间数据。Coordinator 是负责从 Worker 获取结果并返回最终结果给 Client。
• 当Worker启动时，会广播自己去发现 Coordinator，并告知 Coordinator 它是可用，随时可以接受 Task。
• Worker 与 Coordinator、Worker 通信同样是通过 REST API。

2.3 数据源

Presto特定的数据源：Connector、Catalog、Schema 和 Table。

1. Connector n. 连接器，连接头

• Connector 是适配器，用于 Presto 和数据源（如Hive、RDBMS）的连接。可以认为是类似 JDBC 那样，但却是 Presto 的 SPI 的实现，使用标准的 API 来与不同的数据源交互。
• Presto 有几个内建 Connector：JMX 的 Connector、System Connector（用于访问内建的 System table）、Hive 的 Connector、TPCH（用于TPC-H基准数据）。还有很多第三方的 Connector，所以Presto 可以访问不同数据源的数据。
• 每个 Catalog 都有一个特定的 Connector。如果使用 Catalog 配置文件，每个文件都必须包含connector.name 属性，用于指定 Catalog 管理器（创建特定的 Connector 使用）。一个或多个 Catalog 用同样的 connector 是访问同样的数据库。例如，有两个Hive集群。可以在一个 Presto 集群上配置两个 Catalog，两个 Catalog 都是用 Hive Connector，从而达到可以查询两个 Hive 集群的目的。

2. Catalog n. [图情][计]目录；登记

• 一个 Catalog 包含 Schema 和 Connector。例如，配置 JMX 的 Catalog，通过 JXM Connector 访问 JXM 信息。当执行一条SQL语句时，可以同时运行在多个 Catalog。
• Presto 处理 table 时，是通过表的完全限定（fully-qualified）名来找到 Catalog。例如，一个表的权限定名是 hive.test_data.test，则 test 是表名，test_data 是 Schema，Hive 是 Catalog。
• Catalog 的定义文件是在 Presto 的配置目录中。

3. Schema n. [计][心理] 模式；计划；图解；概要

• Schema 是用于组织 table。当通过 Presto 访问 Hive 或 MySQL 时，一个 Schema 会同时转为 Hive 或 MySQL 的同等概念。

4. Table

• Table 跟关系型的表定义一样，但数据和表的映射是交给 Connector。

2.4 数据模型

1）Presto 的三层表结构

• Catalog：对应某一类数据源，例如 Hive 的数据，或 MySQL 的数据。
• Schema：对应特定数据源中的数据库。
• Table：对应特定数据库中的表。

2）Presto 的存储单元

• Page：多行数据的集合，包含多个列的数据，内部仅提供逻辑行，实际以列式存储。
• Block：一列数据，根据不同类型的数据，通常采取不同的编码方式，了解这些编码方式，有助于自己的存储系统对接 Presto。

3）不同类型的Block

• Array 类型的，应用于固定宽度的类型，例如 int，long，double。Block 由两部分组成：

1. boolean valueIsNull[] 表示每一行是否有值。
2. T values[] 每一行的具体值。

• 可变宽度的，应用于 String 类数据，由三部分信息组成

1. Slice：所有行的数据拼接起来的字符串。
2. int offsets[]：每一行数据的起始便宜位置。每一行的长度等于下一行的起始便宜减去当前行的起始便宜。
3. boolean valueIsNull[] 表示某一行是否有值。如果有某一行无值，那么这一行的便宜量等于上一行的偏移量。

• 固定宽度的String类型的，所有行的数据拼接成一长串Slice，每一行的长度固定。
• 字典：对于某些列，distinct 值较少，适合使用字典保存。主要有两部分组成：

1. 字典，可以是任意一种类型的 block（甚至可以嵌套一个字典block），block 中的每一行按照顺序排序编号。
2. int ids[]表示每一行数据对应的 value 在字典中的编号。在查找时，首先找到某一行的id，然后到字典中获取真实的值。

3. 特点

如何自学黑客&网络安全

黑客零基础入门学习路线&规划

初级黑客
1、网络安全理论知识（2天）
①了解行业相关背景，前景，确定发展方向。
②学习网络安全相关法律法规。
③网络安全运营的概念。
④等保简介、等保规定、流程和规范。（非常重要）

2、渗透测试基础（一周）
①渗透测试的流程、分类、标准
②信息收集技术：主动/被动信息搜集、Nmap工具、Google Hacking
③漏洞扫描、漏洞利用、原理，利用方法、工具（MSF）、绕过IDS和反病毒侦察
④主机攻防演练：MS17-010、MS08-067、MS10-046、MS12-20等

3、操作系统基础（一周）
①Windows系统常见功能和命令
②Kali Linux系统常见功能和命令
③操作系统安全（系统入侵排查/系统加固基础）

4、计算机网络基础（一周）
①计算机网络基础、协议和架构
②网络通信原理、OSI模型、数据转发流程
③常见协议解析（HTTP、TCP/IP、ARP等）
④网络攻击技术与网络安全防御技术
⑤Web漏洞原理与防御：主动/被动攻击、DDOS攻击、CVE漏洞复现

5、数据库基础操作（2天）
①数据库基础
②SQL语言基础
③数据库安全加固

6、Web渗透（1周）
①HTML、CSS和JavaScript简介
②OWASP Top10
③Web漏洞扫描工具
④Web渗透工具：Nmap、BurpSuite、SQLMap、其他（菜刀、漏扫等）
恭喜你，如果学到这里，你基本可以从事一份网络安全相关的工作，比如渗透测试、Web 渗透、安全服务、安全分析等岗位；如果等保模块学的好，还可以从事等保工程师。薪资区间6k-15k

到此为止，大概1个月的时间。你已经成为了一名“脚本小子”。那么你还想往下探索吗？

如果你想要入坑黑客&网络安全，笔者给大家准备了一份：282G全网最全的网络安全资料包评论区留言即可领取！

7、脚本编程（初级/中级/高级）
在网络安全领域。是否具备编程能力是“脚本小子”和真正黑客的本质区别。在实际的渗透测试过程中，面对复杂多变的网络环境，当常用工具不能满足实际需求的时候，往往需要对现有工具进行扩展，或者编写符合我们要求的工具、自动化脚本，这个时候就需要具备一定的编程能力。在分秒必争的CTF竞赛中，想要高效地使用自制的脚本工具来实现各种目的，更是需要拥有编程能力.

如果你零基础入门，笔者建议选择脚本语言Python/PHP/Go/Java中的一种，对常用库进行编程学习；搭建开发环境和选择IDE,PHP环境推荐Wamp和XAMPP， IDE强烈推荐Sublime；·Python编程学习，学习内容包含：语法、正则、文件、 网络、多线程等常用库，推荐《Python核心编程》，不要看完；·用Python编写漏洞的exp,然后写一个简单的网络爬虫；·PHP基本语法学习并书写一个简单的博客系统；熟悉MVC架构，并试着学习一个PHP框架或者Python框架 (可选)；·了解Bootstrap的布局或者CSS。

8、超级黑客
这部分内容对零基础的同学来说还比较遥远，就不展开细说了，附上学习路线。

网络安全工程师企业级学习路线

如图片过大被平台压缩导致看不清的话，评论区点赞和评论区留言获取吧。我都会回复的

视频配套资料&国内外网安书籍、文档&工具

当然除了有配套的视频，同时也为大家整理了各种文档和书籍资料&工具，并且已经帮大家分好类了。

一些笔者自己买的、其他平台白嫖不到的视频教程。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化资料的朋友，可以点击这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！