选拔马克斯Compute访问TableStore(OTS) 简明手册

提交作业可以看到执行计划(全部展开后的视图):

88bifa必发唯一官网 1

什么是大数据计算服务 MaxCompute?

理论上OpenMR的模型都可以映射到上面的计算过程。注意,使用map,reduce,select
transform这几个语法其实语义是一样的,用哪个关键字,哪种写法,不影响直接过程和结果。

执行的效果相当于

‘tablestore.columns.mapping’=’:vid, :gt, longitude, latitude, distance, speed,
oil_consumption’, —
(3)

  1. Using
    子句指定的是要执行的命令,而非资源列表,这一点和大多数的MaxCompute
    SQL语法不一样,这么做是为了和hive的语法保持兼容。

  2. 输入从stdin传入,输出从stdout传出;

  3. 可以配置分隔符,默认使用 \t 分隔列,用换行分隔行;

  4. 可以自定义reader/writer,但用内置的reader/writer会快很多

  5. 使用自定义的资源(脚本文件,数据文件等),可以使用 set
    odps.sql.session.resources=foo.sh,bar.txt;
    来指定。可以指定多个resource文件,用逗号隔开(因此不允许resource名字中包含逗号和分号)。此外我们还提供了resources子句,可以在using
    子句后面指定 resources ‘foo.sh’, ‘bar.txt’
    来指定资源,两种方式是等价的(参考“用odps跑测试”的例子);

迁移一个原来在Oracle上面的ETL系统,发现用了 WHERE EXISTS( SELECT
…) 和 WHERE IN (SELECT
…) 这类的语句,可是发现ODPS在这方面支持不完整,还要手工将这些半连接的语句转换为普通JOIN,再过滤。。。

  • com.aliyun.odps.TableStoreStorageHandler 是 MaxCompute
    内置的处理 TableStore 数据的 StorageHandler, 定义了 MaxCompute 和
    TableStore 的交互,相关逻辑由 MaxCompute 实现。
  • SERDEPROPERITES
    可以理解成提供参数选项的接口,在使用 TableStoreStorageHandler
    时,有两个必须指定的选项,分别是下面介绍的
    tablestore.columns.mapping 和 tablestore.table.name。
    更多的可选选项将在后面其他例子中提及。
  • tablestore.columns.mapping
    选项:必需选项,用来描述对需要 MaxCompute 将访问的 TableStore
    表的列,包括主键和属性列。 这其中以 : 打头的用来表示 TableStore
    主键,例如这个例子中的 :vid:gt。 其他的均为属性列。
    TableStore支持最少1个,最多4个主键,主键类型为 bigint 或
    string,其中第一个主键为分区键。 在指定映射的时候,用户必须提供指定
    TableStore 表的
    所有主键,对于属性列则没有必要全部提供,可以只提供需要通过
    MaxCompute 来访问的属性列。
  • tablestore.table.name:需要访问的 TableStore 表名。
    如果指定的 TableStore 表名错误(不存在),则会报错,MaxCompute
    不会主动去创建 TableStore 表。
  • LOCATION 用来指定访问的 TableStore 的实例信息,包括
    instance 名字,endpoint 等。 
  • 数据格式对应,MaxCompute 与 TableStore
    的数据格式对应如下:

Select
transform允许sql用户指定在服务器上执行一句shell命令,将上游数据各字段用tab分隔,每条记录一行,逐行输入shell命令的stdin,并从stdout读取数据作为输出,送到下游。Shell命令的本质是调用Unix的一些utility,因此可以启动其他的脚本解释器。包括python,java,php,awk,ruby等。

等效于

 

  • SELECT TRANSFORM。

  • 场景1

  • 我的系统要迁移到MaxCompute平台上,系统中原来有很多功能是使用脚本来完成的,包括python,shell,ruby等脚本。
    要迁移到MaxCompute上,我需要把这些脚本全部都改造成UDF/UDAF/UDTF。改造过程不仅需要耗费时间人力,还需要做一遍又一遍的测试,从而保证改造成的udf和原来的脚本在逻辑上是等价的。我希望能有更简单的迁移方式。
  • 场景2
  • SQL比较擅长的是集合操作,而我需要做的事情要对一条数据做更多的精细的计算,现有的内置函数不能方便的实现我想要的功能,而UDF的框架不够灵活,并且Java/Python我都不太熟悉。相比之下我更擅长写脚本。我就希望能够写一个脚本,数据全都输入到我的脚本里来,我自己来做各种计算,然后把结果输出。而MaxCompute平台就负责帮我把数据做好切分,让我的脚本能够分布式执行,负责数据的输入表和输出表的管理,负责JOIN,UNION等关系操作就好了。

只会返回mytable1中的数据,只要mytable1的id在mytable2的id中出现过

2.下载解压,将conf/odps_config.ini
的内容修改为:

  1. 用odps跑测试

需要先写好FROM,再回头写SELECT列表,才能提示。如下

 

应用场景举例

只会返回mytable1中的数据,只要mytable1的id在mytable2的id没有出现过

3.行bin/odpscmd,输入show
tables,正常执行则表示上面配置正确。

  1. awk 用户会很喜欢这个功能

其中的ds如果是分区列,则select dt from
sales_date 会单独启动作业执行子查询,而不会转化为SEMIJOIN,执行后的结果会逐个与ds比较,sales_detail中ds值不在返回结果中的分区不会读取,保证分区裁剪仍然有效。

LOCATION ‘tablestore://vehicle-test.cn-shanghai.ots-internal.aliyuncs.com’; — (5)

第三弹 – 复杂类型

SELECT*frommytable1whereexists(select*frommytable2whereid=
mytable1.id);`

)

88bifa必发唯一官网 2

例如:

关系数据库已经存在半个世纪,有非常广泛的使用场景,但是在快速迭代的互联网领域其扩展性和
schema 灵活性被诟病颇多,因此类似 TableStore/BigTable/HBase
等强调扩展性和灵活性的NoSQL数据库逐步流行起来,这些 NoSQL 数据库只提供
API 接口,不提供 SQL 访问,这就导致很多熟悉 SQL
但是不喜欢写代码的用户没法很舒服的使用此类NoSQL数据库。基于此,表格存储开发团队联合
MaxCompute(下文中 ODPS 与 MaxCompute 同义)团队打通了 ODPS-SQL
访问表格存储的路径,这样一个只懂 SQL
的用户也可以愉快的访问表格存储里面的大量数据了。

摘要:
MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,
尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
MaxCompute除了持续优化性能外,也致力于提升SQL语言的用户体验和表达能力,提高广大ODPS开发者的生产力。

SEMI JOIN

然后,准备好一个表格存储的实例以及一张数据表,表格存储实例管理,准备好实例名、EndPoint,为了区别其他产品的AccessId和AccessKey,后面我们称之为TableStore-InstanceName,TableStore-EndPoint。

  1. 可以串联着用,使用 distribute by和 sort by对输入数据做预处理

SELECTkey,max(value)FROMsrc tWHEREvalue>0GROUPBYkeyHAVINGsum(value)
>100ORDERBYkeyLIMIT100;

)

88bifa必发唯一官网 3

如果mytable2中的所有id都不为NULL,则等效于

vid bigint,

  1. 无中生有造数据

SELECT*fromsales_detailwheredsin(selectdtfromsales_date);

‘tablestore.table.name’=’vehicle_track’ —
(4)

MaxCompute基于ODPS2.0新一代的SQL引擎,显著提升了SQL语言编译过程的易用性与语言的表达能力。我们在此推出MaxCompute(ODPS2.0)重装上阵系列文章

MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,
尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
MaxCompute除了持续优化性能外,也致力于提升SQL语言的用户体验和表达能力,提高广大ODPS开发者的生产力。

 

理论上select transform能实现的功能udtf都能实现,但是select
transform比udtf要灵活得多。且select
transform不仅支持java和python,还支持shell,perl等其它脚本和工具。
且编写的过程要简单,特别适合adhoc功能的实现。举几个例子:

88bifa必发唯一官网 4

DROP TABLE IF EXISTS
ots_vehicle_track;

上述功能可以使用SELECT TRANSFORM来实现

但是,如果mytable2中有任何为NULL的列,则 not
in表达式会为NULL,导致where条件不成立,无数据返回,此时与LEFT ANTI
JOIN不同。

使用客户端 ODPS-CMD

或者用map,reduce的关键字会让逻辑显得清楚一些

MaxCompute采用基于ODPS2.0的SQL引擎,对DML进行了大幅扩充,提高了易用性和兼容性,基本解决了上述问题。

speed double,

此文中采用MaxCompute Studio作展示,首先,安装MaxCompute
Studio,导入测试MaxCompute项目,创建工程,建立一个新的MaxCompute脚本文件, 如下

还有一种VALUES表的特殊形式

有时候用户在表格存储里面的数据有独特的结构,希望自己开发逻辑来处理每一行数据,比如解析特定的json字符串,这一块的开发也已经很方便了。

标注

LEFT SEMI JOIN

# this url is for odpscmd update

  1. 支持其他脚本语言

SELECT*frommytable1 aLEFTSEMIJOINmytable2 bona.id=b.id;

2.打包之后可以上传到
MaxCompute,其中打包这里有需要注意的地方,File->Project
Structure->Artifacts, 填写好 Name 和 Output Directory 后,要点击
+ 选择输出模块,打包后通过 ODPS Project Explorer
来上传资源、创建函数,然后就可以在SQL中调用。

88bifa必发唯一官网 5

MaxCompute支持SQL标准的CTE。能够提高SQL语句的可读性与执行效率。

MaxCompute 与 TableStore
是两个独立的大数据计算以及大数据存储服务,所以两者之间的网络必须保证连通性。
对于 MaxCompute 公共云服务访问 TableStore 存储,推荐使用 TableStore
私网
地址,例如

SELECT TRANSFORM 的优势:

SELECT*FROMtable1JOINtable2ONtable1.id = table2.id;

STORED BY ‘com.aliyun.odps.TableStoreStorageHandler’
— (1)

目前odps select transform完全兼容了hive的语法、功能和行为,包括
input/output row format 以及
reader/writer。Hive上的脚本,大部分可以直接拿来运行,部分脚本只需要经过少许改动即可运行。另外我们很多功能都用比hive更高执行效率的语言
(C++) 重构,用以优化性能。

因为WHERE中包含了OR,导致无法转换为SEMI JOIN,会单独启动作业执行子查询

下面首先我们将介绍环境准备,这是所有后面的操作的基础。然后会介绍使用
OdpsCmd
访问表格存储。在第三节我们介绍使用 OdpsStudio
访问表格存储。最后介绍如何写 UDF、部署 UDF 以及在查询中使用 UDF。

  1. 子进程和父进程是两个进程,而UDTF是单线程的,如果计算占比比较高,数据吞吐量比较小,可以利用服务器的多核特性
  2. 数据的传输通过更底层的系统调用来读写,效率比java高
  3. SELECT
    TRANSFORM支持的某些工具,如awk,是natvie代码实现的,和java相比理论上可能会有性能优势。

摘要: MaxCompute(原ODPS)是阿里云自主研发的具有业界领先水平的分布式大数据处理平台,
尤其在集团内部得到广泛应用,支撑了多个BU的核心业务。
MaxCompute除了持续优化性能外,也致力于提升SQL语言的用户体验和表达能力,提高广大ODPS开发者的生产力。

TableStore数据类型

MaxCompute数据类型

string

string

binary

blob

int

bigint

double

double

作者:隐林

例如:

网络连通性

或者使用python

SELECT*frommytable1whereidin(selectidfrommytable2wherevalue=
mytable1.value);

project_name=上面申请的ODPS工程名

第二弹 – 新的基本数据类型与内建函数

第一弹 –
善用MaxCompute编译器的错误和警告

1.按照MaxCompute
Studio文档的说明在IntelliJ里面安装MaxCompute-Java/MaxCompute-Studio插件,一旦插件安装完毕,就可以直接开发。

第一弹 – 善用MaxCompute编译器的错误和警告

是否合并或者分裂子查询,是由ODPS2.0的基于代价的优化器
(CBO)做出决定的,SQL本身的书写方式,不管是CTE还是子查询,并不能确保物理执行计划的合并或者分裂。

latitude double,

SELECT TRANSFORM 介绍

SELECT*frommytable1 aLEFTANTIJOINmytable2 bona.id=b.id;

如果网络不通,可以使用公网地址,TableStore原生支持 VPC
网络控制,也需要将网络类型设置为 “允许任意网络访问”

该命令兼容Hive的Transform功能,可以参考Hive的文档。一些需要注意的点如下:

2

update_url=

上面的语句仅仅是把value原样输出,但是熟悉awk的用户,从此过上了写awk脚本不写sql的日子

除此之外,针对MaxCompute用户的特点,也就是需要在非常复杂的业务场景下,支持对己大量数据的处理,MaxCompute提供了特有的脚本模式和参数化视图,将在下一次为您介绍。

5.创建一张 MaxCompute 的数据表关联到 TableStore
的某一张表。

88bifa必发唯一官网 6

执行的效果相当于

小提示:由于 MaxCompute 在 2.0
版本的计算框架才能支持直接访问 TableStore
数据,该版本还在灰度上线中,目前还需要 申请MaxCompute
2.0试用
,具体开通使用方法请参见 如何申请试用MaxCompute
2.0。

上面用的是perl。这其实不仅仅是语言支持的扩展,一些简单的功能,awk,
python, perl, shell
都支持直接在命令里面写脚本,不需要写脚本文件,上传资源等过程,开发过程更简单。另外,由于目前我们计算集群上没有php和ruby,所以这两种脚本不支持。

SELECTDISTINCT*FROM(SELECT*FROMsrc1UNIONALLSELECT*FROMsrc2) t;

 

原标题:MaxCompute重装上阵 第五弹 – SELECT TRANSFOR

SELECT*frommytable1whereidin(selectidfrommytable2)ORvalue>0;

本篇文章就以一个小白用户的身份体验如何使用
MaxCompute-SQL 查询表格存储里面的数据,以及如何开发自定义逻辑(User
Defined Function, UDF)来处理用户特定的数据格式。

88bifa必发唯一官网 7

例如:

常见错误处理:

小结

此功能主要是方便从其他数据库系统迁移,对于信贷买,我们还是推荐您使用JOIN,明确表示意图

https_check=true

88bifa必发唯一官网 8

MaxCompute基于ODPS2.0新一代的SQL引擎,显著提升了SQL语言编译过程的易用性与语言的表达能力。我们在此推出MaxCompute(ODPS2.0)重装上阵系列文章

环境准备

88bifa必发唯一官网 9

例如:

gt bigint,

88bifa必发唯一官网 10

selectabs(-1),length(‘abc’),getdate();

FAQ

select transform (key, value) using “perl -e ‘while($input =
<STDIN>){print $input;}'” from src;

其中子查询中的where value =
mytable1.value就是一个correlated条件,原有ODPS对于这种既引用了子查询中源表,由引用了外层查询源表的表达式时,会报告错误。MaxCompute支持这种用法,这样的过滤条件事实上构成了SEMI
JOIN中的ON条件的一部分。

set odps.sql.ddl.odps2=true;

或者

MaxCompute大大扩充了DML语句的支持,在易用性,兼容性和性能方面,可以更好的满足您的需求。对于SQL比较熟悉的专家会发现,上述功能大部分是标准的SQL支持的功能。MaxCompute会持续提升与标准SQL和业界常用产品的兼容性。

3.打开bin/odpscmd,输入

性能上,SELECT TRANSFORM 与UDTF
各有千秋。经过多种场景对比测试,数据量较小时,大多数场景下select
transform有优势,而数据量大时UDTF有优势。由于transform的开发更加简便,所以select
transform非常适合做adhoc的数据分析。

88bifa必发唯一官网 11

set odps.sql.type.system.odps2=true; –是支持表格存储的binary类型

88bifa必发唯一官网 12

其中M1, M2,
M4三个分布式任务分别对应对应三个输入表,双击M2可以看到中具体执行的DAG(在DAG中再次双击可以返回),如下

select
cloud_metric_88bifa必发唯一官网,extract_md5(name,
name) as udf_test from test_table
limit 1;

相关文章