effacer es doublons d'une table mysql [script]


rog
WRInaute passionné
WRInaute passionné
 
Messages: 1662
Inscription: 21 Sep 2006

effacer es doublons d'une table mysql [script]

Message le Mar Aoû 21, 2007 14:57

je developpe un projet qui necessite des tabes mysql ultra optimisée

j'avais fait un script pour virer les doublons que je ne trouve plus donc je vais le refaire

si ça interesse quelqu'un je le posterai

rog

Stlenneg
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 24
Inscription: 1 Mai 2007

Message le Mar Aoû 21, 2007 15:06

Si tu positionne bien tes contraintes tu devrai pas avoir ce problème, sauf si tu récupère des tables mal fouttues à la base bien sûr.

Moi ça peut m'intéresser, ça sert toujours quand on doit bosser sur des tables mal crées au départ...


rog
WRInaute passionné
WRInaute passionné
 
Messages: 1662
Inscription: 21 Sep 2006

Message le Mar Aoû 21, 2007 15:10

en fait ce sont pusieurs tables de plusieurs millions d'entrées qui sont pourraves au depart que je dois dédoubler matcher et merger

rog

alex1025
WRInaute discret
WRInaute discret
 
Messages: 52
Inscription: 9 Jan 2005

Message le Mar Aoû 21, 2007 16:01

Excell peut être ton ami.

Lol ok :arrow:


phpmikedu83
WRInaute passionné
WRInaute passionné
 
Messages: 1281
Inscription: 6 Aoû 2005

Message le Mar Aoû 21, 2007 18:24

alex1025 a écrit:Excell peut être ton ami.

Lol ok :arrow:


Ouai, excell c'est bon pour des fichounets.... mais des millions d'entrées... :lol:


arnaudmn
WRInaute passionné
WRInaute passionné
 
Messages: 1536
Inscription: 11 Mai 2005

Message le Mar Aoû 21, 2007 19:53

Voir http://sqlpro.developpez.com/cours/doublons/
Mais si tu as déja une clé unique, c'est pas bien compliqué.


KOogar
WRInaute accro
WRInaute accro
 
Messages: 3885
Inscription: 16 Nov 2004

Message le Mer Aoû 22, 2007 16:53

ta de la memoire ?
alors tres simple comme algo

passe par un tableau php
SELECT
array_unique();
INSERT


rog
WRInaute passionné
WRInaute passionné
 
Messages: 1662
Inscription: 21 Sep 2006

Message le Mer Aoû 22, 2007 20:01

cool

mais il n'y a pas de difficulté à dedoublonner une table sur un champs unique mais quand on a pas ça devient plus delicat

rog

petit-ourson
WRInaute impliqué
WRInaute impliqué
 
Messages: 855
Inscription: 31 Mai 2004

Message le Mer Aoû 22, 2007 20:09

Comment on peut avoir des doublons sur un champ unique ???


KOogar
WRInaute accro
WRInaute accro
 
Messages: 3885
Inscription: 16 Nov 2004

Message le Mer Aoû 22, 2007 20:27

rog a écrit:cool

mais il n'y a pas de difficulté à dedoublonner une table sur un champs unique mais quand on a pas ça devient plus delicat

rog


reconstruis la table en tableau 2D
et regarde les codes : multi-dimensional arrays
http://www.php.net/manual/fr/function.array-unique.php

l'autre solution est de creer une table vide correcte avec les champs unique.
Sauvegarder la premiere dans un tableau et reinjecter le tableau dans la nouvelle table sql. Par defaut, pas de doublon.


rog
WRInaute passionné
WRInaute passionné
 
Messages: 1662
Inscription: 21 Sep 2006

Message le Mer Aoû 22, 2007 20:57

je me suis mal exprimé

champs unique : je ne parlais pas de l'attribut du champs mais d'un unique champs qui doublonne les entrées

je vais expliquer un contexte :

j'ai une table de 16 champs qui contient des doublons mais je sais pas les identifier sur un seul champs
donc je vais devoir appliquer un algo sur plusieurs champs pour deceler le doublon

le but de ce post n'etait pas de demander comment on fait, mais proposer le tool à ceux qui en auraient besoin

rog


rog
WRInaute passionné
WRInaute passionné
 
Messages: 1662
Inscription: 21 Sep 2006

Message le Jeu Aoû 23, 2007 16:02

ça avance bien et je crois que je vais l'intégrer dans mes services online

l'operation sur un champ varchar 10 a pris moins d'une heure (40 minutes) pour une table de 3000 000 d'éléments et en a décelé 250 000

je vais tester ça sur 2 champs

rog

elkas
Nouveau WRInaute
Nouveau WRInaute
 
Messages: 1
Inscription: 7 Juin 2010

Re: effacer es doublons d'une table mysql [script]

Message le Lun Juin 07, 2010 10:30

Salut Rog,

je viens vers toi par ce sujet d'il y a 3ans,car je suis vraiment intéressé par votre script de dedoublonnage qui correspond exactement à mon problème actuel.
Comme tu souhaitais de le faire, serait-il possible de le poster pour moi ça me sera vraiment d'une grande utilité.
D'avance merci


Si vous avez aimé cette discussion, partagez-la sur vos réseaux sociaux préférés :

Lectures recommandées sur ce thème :



Qui est en ligne

Utilisateurs parcourant ce forum: Aucun utilisateur enregistré et 0 invités