WebWork Magazin - Design, Gestaltung, Online Medien, html

Webhosting Provider Domain

Home | Registrieren | Einloggen | Suchen | Aktuelles | GSL-Webservice | Suleitec Webhosting
Reparatur-Forum | Elektro forum | Ersatzteilshop Haushalt und Elektronik



Im Homepage und Webhosting-Forum --- Script-Tuning

Scripte und Programme für PHP, MYSQL. Diskussionen zur Programmierung im Web. FRagen zu CMS, Blogsoftware, Shops, Newsletter und vielen weiteren Scripten.

Forum » PHP & MySQL » Script-Tuning - 21 Nov 2017 Antworten
im Forum für Webhosting Homepage gefunden:
Script-Tuning
corny
Mausakrobat
Threadstarter




Beiträge: 203

Hallo erstmal.

Ich habe ein Problem mit einem Sript. Wenn ich dieses Script von nem Cronjob ausführen lasse (ist eigentlich egal ob von nem Cronjob oder nicht), dann belegt es zuviel Ram. Mein Hoster hat das leider begrenzt, so dass das Script nach einer bestimmten Zeit automatisch abgebrochen wird und einen 500er liefert.

Nun bleibt mir nichts anderes übrig als das Script zu tunen.
Im Ur-Zustand war es ein Script, dass 3 Dateien öffnet und diese in die Datenbank einpflegt. Nun habe ich es schon so verändert, dass es 3 Scripte mit jeweils einer Datei sein. Das klappt leider nicht; da eine der Dateien unverhältnismäßig groß ist.

Jetzt muss ich also am Script selber etwas ändern. Nun also zu meiner Frage:
Ist es Arbeitsspeicher-technisch sinnvoller erst die Tabelle in der Datenbank zu leeren und dann zeilenweise wieder zu füllen (weil nur die neuen Daten sind relevant), oder ist es besser das ganze per "UPDATE" zu machen?
Hättet ihr sonst noch Ideen, wie man das Problem beheben/umgehen kann?

Gruß, Corny


---
www.webworxis.de

  Profil   E-Mail   Website   Editieren   Zitieren
chip
Foren-Team




Beiträge: 422

Ich verstehe Dein Problem noch nicht ganz. Denn wenn Du Dateien einliest kommt es an dieser Stelle (also beim Einlesen) ja zu dem besagten Fehler und nicht beim Update der MySQL-Tabelle.
Meinst Du am Ende vielleicht auch REPLACE anstatt UPDATE? Denn ein UPDATE ist immer sinnvoller als alles zu löschen und neu zu schreiben.

---

Diese Nachricht wurde geändert von: chip
  Profil   Website   Editieren   Zitieren
corny
Mausakrobat
Threadstarter




Beiträge: 203

Aso, ok...
Das es bei UPDATE immer besser ist erst zu löschen und neu zu erstellen wusste ich nicht.
Und wie ist es bei REPLACE?
Ist das sinnvoll?

Sonst noch Tuning-Ideen?

Soll ich das Script mal posten?

---
www.webworxis.de

  Profil   E-Mail   Website   Editieren   Zitieren
chip
Foren-Team




Beiträge: 422

corny schrieb am 04.08.2007 20:05
Das es bei UPDATE immer besser ist erst zu löschen und neu zu erstellen wusste ich nicht.


Ganz im Gegenteil. Das ist es nicht, was ich gesagt habe! UPDATE ändert Werte bei bereits vorhandenen Zeilen. Alles zu löschen und neu zu erstellen ist total sinnlos.
REPLACE fügt neue Zeilen ein, wobei bereits bestehende mit den selben Werten ignoriert werden (also nicht überschrieben werden).


---

  Profil   Website   Editieren   Zitieren
corny
Mausakrobat
Threadstarter




Beiträge: 203

Naja, bei UPDATE müsste ich ja erst abfragen, ob sich, und wenn ja was sich verändert hat.
Jetzt ist die Frage was günstiger ist.
Ist UPDATE auch besser, wenn ich vorher vergleichen muss?

---
www.webworxis.de

  Profil   E-Mail   Website   Editieren   Zitieren
chip
Foren-Team




Beiträge: 422

Bei UPDATE ist wie bei allen anderen Abfragen auch, eine WHERE-Klausel möglich, die Dir entsprechende Vergleichsmöglichkeiten bietet.

---

  Profil   Website   Editieren   Zitieren
corny
Mausakrobat
Threadstarter




Beiträge: 203

ja, das weiß ich ja, die Einträge sind ja auch alle Nummeriert.
Die Frage ist nur, ob es besser wäre, mit diesem Vergleich ...

Anbei das Script, falls dir sonst noch was auffällt, was man verbessern könnte...
1: 
2: 
3: 
4: 
5: 
6: 
7: 
8: 
9: 
10: 
11: 
12: 
13: 
14: 
15: 
16: 
17:
$file = $phpbb_root_path . $import_path . "village.txt";
$sql = "TRUNCATE TABLE `".VILLAGE_TABLE;
mysql_query($sql);

$filearray = fopen ($file, "r");
while (!feof($filearray)) {
    $line = fgets($filearray);
	list($id, $name,$x, $y, $player, $points, $rank) = explode(',', $line);
	$name = datadecode($name);
	$name = addslashes($name);
	$sql = "INSERT INTO " . VILLAGE_TABLE . " SET id='$id', name='$name', x='$x', y='$y', player='$player', points='$points', rank='$rank'";
	$db->sql_query($sql);
}

fclose ($filearray);

$id, $name,$x, $y und $player würde sich dabei, wenn alles richtig läuft nie verändern, nur $points und $rank.

Gibt es eventuell eine Möglichkeit die Ram, die ein Script belegt mittendrin zurück zusetzten, oder so?

---
www.webworxis.de

Diese Nachricht wurde geändert von: corny
  Profil   E-Mail   Website   Editieren   Zitieren
chip
Foren-Team




Beiträge: 422

file_get_contents() und explode("\n", $bla) wären hier die bessere Wahl, anstatt immer Zeile für Zeile aus der Datei zu holen.
Da, wie Du sagst $id immer gleich bleibt, mach es doch so:

1:
"UPDATE " . VILLAGE_TABLE . " SET points = '".$points."', rank = '".$rank."' WHERE id = '".$id."' LIMIT 1"


// Edit: LIMIT hinzugefügt

---

Diese Nachricht wurde geändert von: chip
  Profil   Website   Editieren   Zitieren
Ori
Mausakrobat




Beiträge: 163

Für ein paar Erdnüsse kannst Du noch "-Strings in '-Strings umwandeln, solange Du das Einsetzen von Variablen nicht brauchst.

file_get_contents lädt die (nach corny überdimensional große) Datei in den RAM, was wohl die Providervorgabe sprengen dürfte, insofern ist zeilenweises Abarbeiten vermutlich nötig (und bei einer riesigen Datei wohl auch schneller als das Zerlegen eines gewaltigen Strings).

Wenn die id ausreicht, um einen Spieler zu identifizieren (was irgendwie Sinn macht), würde es reichen, wenn Du nur diese abspeicherst, um beim Einlesen Zeit zu gewinnen (die anderen Daten stehen ja in der Datenbank).

  Profil   E-Mail   Website   Editieren   Zitieren
progrookie
Fachidiot




Beiträge: 128

1:
$arContent = file($this->Path);

...was würde dagegen sprechen beispeilsweise so die Datei durch zulesen?
Datei wird ín ein Array hinein geladen, welches man auch Zeilenweise durchgehen kann.

---

  Profil   E-Mail   Website   Editieren   Zitieren
chip
Foren-Team




Beiträge: 422

Ori schrieb am 08.08.2007 00:48
file_get_contents lädt die (nach corny überdimensional große) Datei in den RAM, was wohl die Providervorgabe sprengen dürfte, insofern ist zeilenweises Abarbeiten vermutlich nötig (und bei einer riesigen Datei wohl auch schneller als das Zerlegen eines gewaltigen Strings).


Ist es hier nicht das selbe? Dann wird eben Zeile für Zeile eingelesen und belastet trotzdem den RAM.


$id, $name,$x, $y und $player würde sich dabei, wenn alles richtig läuft nie verändern, nur $points und $rank.


Warum wird es dann in die Textdatei geschrieben und ausgelesen?

---

  Profil   Website   Editieren   Zitieren
corny
Mausakrobat
Threadstarter




Beiträge: 203

chip schrieb am 08.08.2007 11:21

$id, $name,$x, $y und $player würde sich dabei, wenn alles richtig läuft nie verändern, nur $points und $rank.


Warum wird es dann in die Textdatei geschrieben und ausgelesen?


Zia, da kann ich leider gar nichts dran ändern.
Der Inhalt der Textdatei wird mir so geliefert wie er ist.
Mein Job ist es nur diese Textdatei möglichst, RAM, schonend in die DB zu befördern.

---
www.webworxis.de

  Profil   E-Mail   Website   Editieren   Zitieren
Ori
Mausakrobat




Beiträge: 163

chip schrieb am 08.08.2007 11:21
Ori schrieb am 08.08.2007 00:48
file_get_contents lädt die (nach corny überdimensional große) Datei in den RAM, was wohl die Providervorgabe sprengen dürfte, insofern ist zeilenweises Abarbeiten vermutlich nötig (und bei einer riesigen Datei wohl auch schneller als das Zerlegen eines gewaltigen Strings).


Ist es hier nicht das selbe? Dann wird eben Zeile für Zeile eingelesen und belastet trotzdem den RAM.

Via file_get_contents wird die gesamte Datei auf einmal in den RAM gelesen. Wenn die Datei zeilenweise gelesen wird, ist nicht alles gleichzeitig im RAM, sondern nur die gelesene Zeile (und ein bisschen für die Verwaltung des Dateizugriffs, das ist aber vernachlässigbar).

1: 
2: 
3: 
4: 
5: 
6: 
7: 
8: 
9: 
10: 
11:
$filearray = fopen ($file, 'r');

while (!feof($filearray))
{
    $line = fgets($filearray);
    $arr = explode(',', $line);
    $sql = 'UPDATE ' . VILLAGE_TABLE . ' SET points = \'' . $arr[5] . '\', rank = \'' . $arr[6] . '\' WHERE id = \'' . $arr[0] . '\' LIMIT 1';
    $db->sql_query($sql);
}

fclose ($filearray);

Ein paar Kommentare dazu: Ich vertraue list() nicht, weil das wohl intern in einfache Variablenzuweisungen umgemünzt wird, wir aber nur drei der sieben Werte wissen wollen. Abspeichern der Variablen für einmalige Verwendung bringt auch keinen Geschwindigkeitszuwachs.

Stehen in der Textdatei eigentlich auch neue Einträge, die vorher nicht in der Datenbank standen? Und: Wie groß ist die Textdatei eigentlich?

  Profil   E-Mail   Website   Editieren   Zitieren
corny
Mausakrobat
Threadstarter




Beiträge: 203

Die Datei selber(die größte) ist 11,39 mb groß.
offiziell stehen mir 9mb RAM zur Verfügung.
Das Script wird aber erst bei Überschreiten der 10 MB abgebrochen.

Ja, es gibt auch Einträge in der Datei, die komplett in die DB übernommen werden müssen, also nicht nur geupdated werden müssen.

ist es möglich, dass man die Datei splittet und bei jedem Scriptaufruf nur eine der Dateien eingelesen werden? Ist es dann möglich, dass sich das Script nach Durchlauf einfach erneut aufruft?

---
www.webworxis.de

  Profil   E-Mail   Website   Editieren   Zitieren
raiserle
Mausakrobat




Beiträge: 171

Hab jetzt nicht alles durchgelesen, nur den letzten Beitrag.

Aber mein Vorschlag...
Öffne die Datei, und lies einen Datensatz ein, ab letzter Position vom Filepointer. Wenn noch ein Datensatz vorhanden ist, weitermachen .. nächsten Datensatz holen und letze Position vom Dateiziger holen.
So wie ich das mitbekommen habe, willst den ja in eine DB haben.
Also schreib den Datensatz in die DB und speicher dir die Position des Filepointers.
schliesse die Datei.
Mach ein header() auf das selbige Script.
So sollte ein DS nach dem anderen in die DB wandern, ohne das du die komplette Datei in den Speicher haust.

Gruß raiserle

---
Irren is Menschlich

Wer andern eine Grube gräbt,
sollte darüber nachdenken,
ob sie tief genug ist!!!!

Kameradschaft ist, wenn der
Kamerad schafft !!!!

  Profil   Editieren   Zitieren
Seite 1 | 2  

Antworten


Forum » PHP & MySQL » Script-Tuning

Aktuelle Beiträge zur Hilfe im Forum für Homepage - Script-Tuning im Forum Homepage Hosting AntwortenLetztes Posting
Top 10 Forex Brokers and Trading Platforms to trade online
in "PHP & MySQL"
0 16.11.2017 09:37 von Pelelliki
Schnell viel Geld ohne Aufwand verdienen, mit dem Smartphone
in "PHP & MySQL"
5 07.09.2017 19:25 von Angel26
Rangliste (Ohne Mysql) (Kompliziertes Ordner System)
in "PHP & MySQL"
0 03.09.2017 22:01 von Tainor
CMS für Online Shop
in "PHP & MySQL"
20 07.08.2017 05:54 von Isasimon
Visual Composer selber programmieren?
in "PHP & MySQL"
0 22.01.2017 23:45 von Redji
php preg_replace_callback für dynamischen Link
in "PHP & MySQL"
0 05.07.2016 11:02 von Rm21
PHP Code verschlüsseln
in "PHP & MySQL"
20 21.02.2016 21:25 von Kilian1
migrierter WP-Blog läuft nicht ...
in "PHP & MySQL"
0 04.02.2016 02:01 von Oxygon
migrierter WP-Blog läuft nicht ...
in "PHP & MySQL"
0 04.02.2016 02:01 von Oxygon
Fertige PHP Scripte für Ihre Homepage
in "PHP & MySQL"
0 16.12.2015 12:02 von PHP-Script-Shop
Callback Befehl ++ Session ID Eintrag +++
in "PHP & MySQL"
2 16.12.2015 11:57 von PHP-Script-Shop
PHP befehl ausführen
in "PHP & MySQL"
9 16.12.2015 11:52 von PHP-Script-Shop
suche online community script
in "PHP & MySQL"
3 16.12.2015 11:51 von PHP-Script-Shop
Text basierender Chat
in "PHP & MySQL"
5 16.12.2015 11:51 von PHP-Script-Shop



Besucher : 5376099    Heute : 467     Gestern : 1431     Online : 42     21.11.2017    9:17      1 Besucher in den letzten 60 Sekunden        
alle 60.00 Sekunden ein neuer Besucher
Die letzten 30 Referrer :

1 4:17 - google.com/search - content
2 4:15 - google.com/search - content
3 3:57 - google.com/search - content
4 3:13 - google.com/search - content
5 2:41 - google.com/search - content
6 2:22 - google.com/search - content
7 2:18 - google.com/search - content
8 2:16 - google.com/search - content
9 2:13 - google.com/search - content
10 2:12 - google.com/search - content
11 2:10 - google.com/search - content
12 2:09 - google.com/search - content
13 2:05 - google.com/search - content
14 2:02 - google.com/search - content
15 1:25 - google.com/search - content
16 1:02 - google.com/search - content
17 23:32 - google.com/search - content
18 22:58 - google.com/search - content
19 21:09 - google.com/search - content
20 21:00 - google.com/search - content
21 20:51 - bing.com/search - patchday november 2017
22 18:04 - google.com/search - content
23 18:03 - google.com/search - content
24 18:00 - google.com/search - content
25 17:34 - google.com/search - content
26 17:30 - google.com/search - content
27 16:08 - google.com/search - content
28 15:44 - bing.com/search - knistern boxen pc
29 15:13 - google.com/search - content
30 14:30 - google.com/search - content

Nach oben