Postgresql去重函数distinct的用法说明
在项目中我们常会对数据进行去重处理,有时候会用in或者EXISTS函数。或者通过group by也是可以实现查重
不过Postgresql还有自带去重函数:distinct
下面是distinct 的实例:
1、创建表:user
CREATE TABLE `user` ( `name` varchar(30) DEFAULT NULL, `age` int(11) DEFAULT NULL ) ENGINE=InnoDB DEFAULT CHARSET=utf8; INSERT INTO `user` VALUES ('张三', 20); INSERT INTO `user` VALUES ('李四', 22); INSERT INTO `user` VALUES ('李四', 20); INSERT INTO `user` VALUES ('张三', 22); INSERT INTO `user` VALUES ('张三', 20);
查询结果:
SELECT * FROM user 张三 20 李四 22 李四 20 张三 22 张三 20
2、根据 name 查询去重后的数据:
SELECT distinct name FROM user 张三 李四
3、根据name 和 age 查询去重后的数据:
SELECT distinct name,age FROM user 张三 20 李四 22 李四 20 张三 22
4、根据name,age查询重复数据数:
SELECT distinct name,age,count(*) 数据条数 FROM user GROUP BY name,age 张三 20 2 张三 22 1 李四 20 1 李四 22 1
二、查出重复数据后,我们需要删除重复数据
删除重复数据一般几种方式,一般采用 临时表 或者根据 某个字段,例如id等,通过max或者min函数去重。
补充:基于postgresql ctid实现数据的差异同步
项目背景:
最近在做异构数据同步方面(非实时)的工作,从oracle,gbase,postgresql向mysql数据库中同步,对于没有自增字段(自增ID或时间字段)的业务表,做差异同步是一件非常麻烦的事情,主要体现在记录的新增、更新与删除上
备注:源库只提供一个只读权限的用户
ctid在pg中的作用
ctid是用来指向自身或新元组的元组标识符,怎么理解呢?下面能过几个实验来测试一下
satdb=# create table test_ctid(id int,name varchar(100)); satdb=# insert into test_ctid values(1,‘a'),(1,‘a'); satdb=# insert into test_ctid values(2,‘a'),(3,‘a');
查看记录的ctid值
satdb=# select id,name,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | a | (0,3) 3 | a | (0,4) (4 rows)
对id为2的记录进行更新
satdb=# update test_ctid set name=‘b' where id=2; UPDATE 1
这里可以看到id=2的记录指向了新的元组标识符 (0,5)
satdb=# select id,name,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 3 | a | (0,4) 2 | b | (0,5) (4 rows) satdb=# select * from test_ctid where ctid='(0,1)'; id | name ----±----- 1 | a (1 row)
删除 id=3的记录后,对应的ctid(0,4)不存在了
satdb=# delete from test_ctid where id=3; DELETE 1 satdb=# select *,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | b | (0,5) (3 rows)
再插入一条记录时,看看会不会使用(0,4)这个标识符
satdb=# insert into test_ctid values(3,‘d'); INSERT 0 1 satdb=# select *,ctid from test_ctid; id | name | ctid ----±-----±------ 1 | a | (0,1) 1 | a | (0,2) 2 | b | (0,5) 3 | d | (0,6)
这里新插入的记录不会使用(0,4),而是直接分配新的标识符(0,6)
总结:
1、ctid的作用与oracle rowid类似,可以唯一标识一条记录
2、记录的更新后,后生产新的ctid
3、记录删除后,新插入的记录不会使用已经删除记录的ctid
4、基于ctid可以实现记录的去重操作
5、基于ctid可以实现差异增量同步(新增、删除、更新)
以上为个人经验,希望能给大家一个参考,也希望大家多多支持IT技术网。如有错误或未考虑完全的地方,望不吝赐教。
您可能感兴趣的文章:
- postgresql 利用xlog进行热备操作
- Postgresql中xlog生成和清理逻辑操作
- postgresql 12版本搭建及主备部署操作
- 开源数据库postgreSQL13在麒麟v10sp1源码安装过程详解
- postgresql初始化之initdb的使用详解
- postgresql 如何查看pg_wal目录下xlog文件总大小
- postgresql之使用lsn 获取 wal文件名的实例
- PostgreSQL 实现定时job执行(pgAgent)
相关阅读
- postgresql 按小时分表(含触发器)的实现方式
- 解决postgreSql 将Varchar类型字段修改为Int类型报错的问题
- PostgreSQL 修改表字段常用命令操作
- PostgreSQL TIMESTAMP类型 时间戳操作
- postgresql 计算时间差的秒数、天数实例
- postgresql的now()与Oracle的sysdate区别说明
- postgresql 获取两个时间类型小时差值案例
- Postgresql 通过出生日期获取年龄的操作
- postgresql通过索引优化查询速度操作
- postgreSQL 非count方法算记录数操作
- PostgreSQL删除更新优化操作
- postgresql中时间转换和加减操作
- 在postgresql数据库中判断是否是数字和日期时间格式函数操作
- PostgreSQL 实现将多行合并转为列
- Postgresql自定义函数详解
- postgresql 实现sql多行语句合并一行
- PostgreSQL 分页查询时间的2种比较方法小结
- postgresql rank() over, dense_rank(), row_number()用法区别