WebWork Magazin - Design, Gestaltung, Online Medien, html

Webhosting Provider Domain

Home | Registrieren | Einloggen | Suchen | Aktuelles | Suleitec Webhosting
Reparatur- und Ersatzteile-Forum | Elektro forum | Ersatzteilshop Haushalt und Elektronik



Im Homepage und Webhosting-Forum --- Problem -> Große Datenbanken füllen

Scripte und Programme für PHP, MYSQL. Diskussionen zur Programmierung im Web. FRagen zu CMS, Blogsoftware, Shops, Newsletter und vielen weiteren Scripten.

Forum » PHP & MySQL » Problem -> Große Datenbanken füllen Antworten
im Forum für Webhosting Homepage gefunden: datenbanken
Problem -> Große Datenbanken füllen
woyng
Pixelschubser
Threadstarter




Beiträge: 6

Hallo allerseits!

ich hänge seit Tagen an folgendem Problem fest:

Ich muß eine Datenbank hochladen, die lokal bei mir liegt, also 1:1 kompieren.
Eine Tabelle davon hat ca. 1.2 Millionen Einträge, und alle mir bekannten Tools scheitern ... jedes auf seine eigene Art:

LoadData: ist deaktiviert.

phpMyAdmin: ist für so große Tabellen wohl nicht gebaut worden.

HeidiSQL:
Wenn ich die Funktion "Export SQL" und "Another Host, and optionally another Database" benutze, passiert folgendes:
Links (localhost) werden 5.000 Einträge ausgelesen, dann ganz kurz 2 Fenster "waiting for query to complete" und "waiting for remote session to execute query", dann werden rechts (remote host) die 5.000 Einträge geschrieben. Dann links wieder 5.000 Einträge gelesen...aber jetzt hängt sich alles auf, und die beiden kleinen Fensterchen stehen. Das eine fenster kann man canceln, beim anderen muß man den Prozeß manuell abschießen.
Resultat: 5.000 Einträge wurden geschrieben.

(Ich habe aber so die Vermutung, daß Heidi normalerweise anders reagieren sollte.)

Bei "Export SQL" und "File" schreibt localhost zwar brav immer 5.000 nacheinander in ein SQL-File, auch fortlaufend...aber das dauert ewig.

Wenn ich ein solches SQL-File (besteht aus lauter einzelnen INSERTs) dann mit dem remotehost einlesen will klappt das zwar...aber ich habe ausgerechnet, daß die ganze Tabelle 133 Stunden dauern würde...und man kann zwischendurch auch nicht runterfahren, weil er dann wieder von vorne beginnt!

MySQL-Front:
Habe ich gefunden und ausprobiert...das reagiert aber ganz genauso.

(Ja, und ich habe auch die Boardsuche und Google benutzt)
(System: Mozilla 3.54, Xampp unter Windows 2000)

Was tun?
Hat jemand von euch eine Idee?
Habe ich Heidi falsch benutzt? Muß man vielleicht was umkonfigurieren?
Oder gibt es ein viel besseres Tool?

Dankee!

  Profil   Editieren   Zitieren
Mondschatten
Quasselstrippe




Beiträge: 285

Hallo woyng,

mal eine Frage: Welche Größe hat denn Dein Textfile mit den Daten? Bei 1,2 Millionen Einträgen und kompletten Inserts wird das sicher nicht wenig sein, Du wirst also ohnehin eine ganze Weile zum Upload brauchen. (1,2 Millionen Datensätze... lädst Du das Telefonbuch hoch?)

Ich würde die Daten in Happen teilen. Anders wird es möglicherweise nicht gelingen.

Viele Grüße
Mondschatten

  Profil   Editieren   Zitieren
woyng
Pixelschubser
Threadstarter




Beiträge: 6

Hallo Mondschatten!

Welche Größe hat denn Dein Textfile mit den Daten? Bei 1,2 Millionen Einträgen und kompletten Inserts wird das sicher nicht wenig sein, Du wirst also ohnehin eine ganze Weile zum Upload brauchen.


Ich weiß. Deshalb würde ich das gerne automatisieren und verkürzen.

(1,2 Millionen Datensätze... lädst Du das Telefonbuch hoch?)


So ähnlich...Wagners Gesamtwerk in Hexadezimal.

Ich würde die Daten in Happen teilen. Anders wird es möglicherweise nicht gelingen.


Das ist aber auch wieder aufwendig und fehleranfällig. Bräuchte eine schlaue Maschine dafür.

Trotzdem vielen Dank!

Viele Grüße, Mondschatten


"Hell war der Mond, und die Nacht voll Schatten (Schatten)..."

  Profil   Editieren   Zitieren
Mondschatten
Quasselstrippe




Beiträge: 285

Hallo woyng,

und wenn Du Dir diese "Maschine" selbst schreibst? Die Häppchen-txts auf den Server laden und dort von einem Script Stück für Stück einlesen lassen. Notfalls kannst Du das Script die erledigten Häppchen stets löschen lassen und von Hand oder Cron immer wieder neu anstubsen. Das ist sicher keine Premium-Lösung, aber wenn es eine einmalige Aktion ist, geht das vielleicht.

Viele Grüße
Mondschatten

  Profil   Editieren   Zitieren
woyng
Pixelschubser
Threadstarter




Beiträge: 6

Hallo Mondschatten,

gute Idee, ja. Wenn es kein Tool gibt, was das kann, bleibt das die letzte Möglichkeit...

Thanks!

Diese Nachricht wurde geändert von: woyng
  Profil   Editieren   Zitieren
Rieke
Foren-Team





Beiträge: 1629

woyng lade die SQL File einmal in den FTP Account und schick mir eine Mail mit folgenden Daten:

- Link zum File
- Name der Datenbank in die das File Importiert werden soll (DB vorher leeren)

Rieke

---
WebWork-Magazin.net - powered by Suleitec Webhosting

  Profil   E-Mail   Website   Editieren   Zitieren
woyng
Pixelschubser
Threadstarter




Beiträge: 6

Ja, gerne
Ich bereite alles in den nächsten Tagen vor und schicke dir dann die Daten!

  Profil   Editieren   Zitieren
woyng
Pixelschubser
Threadstarter




Beiträge: 6

Ich schon wieder :-]

Habe vielleicht eine Lösung gefunden, wie es auch ohne Hilfe von Suleitec geht!

Ich probiere es mal übers Wochenende aus, und wenn es geklappt hat schreibe ich hier die Lösung hin!

  Profil   Editieren   Zitieren
woyng
Pixelschubser
Threadstarter




Beiträge: 6

OK, ausprobiert, geschafft...und hier die Lösung:

Da HeidiSQL bei mir beim SQL-Einlesen oder -Kopieren immer langsamer wird am Ende somit unbenutzbar wird, scheidet die Variante "Kopieren von Lokal-DB zu Remote-DB mit "2 Heidi-Fenstern" aus...das klappt wohl nur gut bei kleineren Tabellen, die hauptsächlich Zahlen beinhalten.

Was aber klappt ist:

1) SQL-Dump der gewünschten Tabelle lokal erstellen, entweder mit phpMyAdmin oder mit HeidiSQL
2.) Dabei "erweiterte Inserts" auswählen
3.) Den Dump mit Heidi in die Remote-DB einlesen
4.) Das wird zwar auch immer langsamer
5.) aber
6.) man kann den Heidi-Prozess beenden und wieder starten
7.) vorher nachsehen, wie weit sie gekommen ist (letzen Eintrag suchen)
8.) in der SQL-Datei genau diesen Eintrag finden ... der und alle INSERTs oberhalb kann/können gelöscht werden
9.) Neue, kleinere SQL-Datei speichern und wieder zurück zu 3.)
10.) Gehe nicht über LOS
11.) Ziehe nicht 4.000 Mark ein

Danke an alle!

Diese Nachricht wurde geändert von: woyng
  Profil   Editieren   Zitieren
 

Antworten
Forum » PHP & MySQL » Problem -> Große Datenbanken füllen

Aktuelle Beiträge zur Hilfe im Forum für Homepage - Problem -> Große Datenbanken füllen im Forum Homepage Hosting AntwortenLetztes Posting
Array in MySql schreiben
in "PHP & MySQL"
5 02.09.2010 14:05 von Ori
Teile einer datei auslesen
in "PHP & MySQL"
3 27.08.2010 18:33 von Carsten
Möchte mir gerne ein PHP Forum auf meine Webseite instalieren und bräuchte Hilfe!
in "PHP & MySQL"
27 28.04.2010 15:44 von Paddy_3000
Wie baue ich ein smilie ein und lese den wieder aus aus der datenbank?
in "PHP & MySQL"
27 05.04.2010 21:47 von raiserle



Besucher : 50745    Heute : 433     Gestern : 2243     Online : 62     3.9.2010    9:53      2 Besucher in den letzten 60 Sekunden        
alle 30.00 Sekunden ein neuer Besucher
Die letzten 30 Referrer :

1 9:52 - google.de/search - button webmaster
2 9:49 - google.de/search - typo3 datensatz dupliziert selbe ID
3 9:48 - google.at/search - pdo sonderzeichen
4 9:47 - google.at/search - pdo sonderzeichen
5 9:46 - google.de/search - externe Speichermedien
6 9:44 - google.de/search - Webhosting mit reverse Proxy
7 9:43 - google.de/search - catchall-adresse einrichten telekom
8 9:42 - google.de/search - php ssh
9 9:40 - google.de/search - urlaubsanspruch 400 Euro
10 9:39 - google.com/search - crt monitor öffnen
11 9:39 - google.de/search - anrede groß schreiben neue rechtschreibung
12 9:37 - google.de/search - akkus für bartschneider
13 9:37 - google.de/search - indesign minikalender vorlage 2011
14 9:35 - google.de/search - foxmail Anzeige E-Mail Absender
15 9:33 - google.de/search - virtueller rundgang freeware
16 9:33 - lamb-da.appspot.com/google.de/search - Bandbattle blog
17 9:31 - lamb-da.appspot.com/google.de/search - Music Challenge blog
18 9:26 - google.ch/search - xampp htaccess
19 9:25 - google.de/search - sql zufall
20 9:24 - google.de/search - lauftext für hp
21 9:23 - google.de/search - PHP Allowed memory size
22 9:23 - google.com/search - schiffe versenken java
23 9:23 - google.de/search - counter php einbauen
24 9:19 - google.de/search - baustellenseite
25 9:18 - google.de/search - passwort verschlüsseln
26 9:16 - google.de/search - css vererbung
27 9:14 - google.de/search - PHP.ini debian
28 9:13 - google.de/search - rektalthermometer
29 9:13 - google.de/search - PHP.ini debian
30 9:08 - google.de/search - homepage button mit blink bei drüber fahren

Nach oben