import csv große mengen

Dieses Thema im Forum "Webentwicklung" wurde erstellt von onip, 15. Oktober 2014 .

Schlagworte:
  1. Diese Seite verwendet Cookies. Wenn du dich weiterhin auf dieser Seite aufhältst, akzeptierst du unseren Einsatz von Cookies. Weitere Informationen
  1. #1 15. Oktober 2014
    tag zusammen,

    ist ein paar tage her das ich mich wieder hier melde.
    hoffe euch geht's gut.

    hab ein problem das ich einfach nicht gelöst bekomme.
    ich muss mehrere csv datein für ein shop importieren.
    csv können zb. hersteller, kategorien, artikel usw. sein.
    soweit läuft alles wie es soll.
    ich öffne die datei verarbeite sie und übergebe ein array
    mit datensätzen an eine schleife, die:
    1. datensatz für die tabelle aufbereiten
    2. guckt ob der datensatz schon da ist
    3. wenn da update, sonst insert

    was soll ich sagen artikel z.b. hat +18000 datensätze :(
    genau, mir fliegt der mist um die ohren.

    hab nun folgendes versucht:
    array per chunk in 100er blöcke teilen und 100er datensätze an die schleife.
    naja zumindest ist er jetzt von 4000 auf 9000 einträge gekommen.
    ist also auch noch nicht das gelbe vom ei.

    bin auf folgendes gestoßen:
    ok die datei nur 100 zeilen auszulesen und diesen datensatz zu übergeben raff ich.
    aber was ist mit aus dem 'speicher werfen' gemeint?

    gibt es ggf ein workaround für solche fälle wie meins?
     

  2. Anzeige
  3. #2 15. Oktober 2014
    AW: import csv große mengen

    wieso schreibst du nicht erst alles in eine mysql db und verarbeitest es dann?
     
  4. #3 15. Oktober 2014
    AW: import csv große mengen

    was ist da der unterschied?
    ob meine infos von ner csv oder von der DB kommen.
    nur das ich ein schritt mehr habe.
    eine schleife von 18000 ist 18000, die halt verarbeiten, prüfen, insert/update muss.

    versteh ich da was falsch?
     
  5. #4 15. Oktober 2014
    AW: import csv große mengen

    Dein Problem ist, das du mit PHP: str_getcsv - Manual die ganze CSV in ein Array lädst was unter umständen einen Fehler gibt wenn die php memory limits überschritten werden.

    Das kannst du beheben, in dem du den zweiten Parameter angibst und immer zb 1000 Zeilen verarbeitest:

    Code:
     $handle = fopen ("test.csv","r"); 
     while ($data = fgetcsv($handle, 1000, ';')) 
     { 
     foreach($data AS $line){
     // $line[id] etc verarbeiten.
     }
     }
    
     
  6. #5 15. Oktober 2014
    AW: import csv große mengen

    du kannst 10 mal mitm auto um nen käsetörtchen fahren oder 10 mal um den eifelturm
    eins von beiden dauert sicher länger.

    Ich habe mal ein ähnliches Szenario gehabt, probiers erstmal aus, sollte ja fix gehen.
     
  7. #6 15. Oktober 2014
    AW: import csv große mengen

    @raid
    fgetcsv($handle, 1000, ...

    der zweite parameter gibt mir nicht an wieviel zeilen er auslesen soll.
    ich versteh das so, dass er anzahl der zeichen in einer zeile oder bis ende der zeile zurückgibt.

    @june
    hast recht. den ansatz verfolge ich mal.
    hab jetzt die artikel in ne tmp tabelle gepusht. dauer 30 sek. bei 15133 datensätzen.
    der vorteil daran ist, dass ich bei artikel auch categories, varianten, similar, crosselling, images habe.
    das läßt sich über ne DB deutlich besser herausfiltern als über ein *.csv.

    ich werde das mal weiter spinnen und berichten.
     
  8. #7 15. Oktober 2014
    AW: import csv große mengen

    Anderer Ansatz:
    1000 Datensätze verarbeiten, Seite neu laden (frischer Prozess/Thread) und weiter machen wo man aufgehört hat.

    PHP:
    $seek  = isset ( $_GET [ 'seek' ]) ?  $_GET [ 'seek' ]| 0 ;
    $done  false ;
    $fp  fopen ( 'datei.csv' 'r' );
    if (!
    $fp ) exit( 'datei nicht lesbar' );
    fseek ( $fp $seek SEEK_SET );

    for (
    $i  0 $i  1000 ; ++ $i ) {
      
    $csv  fgetcsv ( $fp );  // length auf 0 lassen

      
    verarbeite_csv ( $csv );

      if (
    feof ( $fp )) {
        
    $done  true ;
        break;
      }
    }

    $seek  ftell ( $fp );
    fclose ( $fp );

    if (!
    $done ) {
      
    reload_oder_neuer_prozess ( $seek );
      exit;
    }

    echo 
    'fertig!' ;
    Üver CLI wäre fork oder `php program.php --seek=...` ne Möglichkeit.
     
  9. #8 15. Oktober 2014
    Zuletzt bearbeitet: 15. Oktober 2014
    AW: import csv große mengen

    danke murdoc, das werde ich auch mal antesten.
    hat nur einen nachteil bei artikel (nur da), ich muss similar und crosselling
    aufzeichnen um nachträglich mit artikel update diese hinzu fügen zu können.

    bei artikel die noch nicht in der DB stehen, fliegt mir similar und crosselling um die ohren :(

    // edit
    kann ich doch verwenden. und läuft super.
    ich mach einfach ein verweis auf sich selbst, statt eines reload.
    PHP:
    public function  readFile ( $seek = 0 $row = 1 ) {
        
    $done  false ;
        
    $fp  fopen ( $this -> csvFile 'r' );
        
    fseek ( $fp $seek );
        for (
    $i  0 $i  100 ; ++ $i ) {
            
    $line  fgets ( $fp );
            
    $seek  +=  strlen ( $line );
            
    $data  str_getcsv ( trim ( $line ),  ";" '"' );
            if (
    feof ( $fp )) {
                
    $done  true ;
                break;
            }
            if(
    $row  1 ){
                
    $this -> insert ( $data );
            }
            
    $row  ++;
        }
        
    fclose ( $fp );
        if (!
    $done ) {
            
    $this -> readFile ( $seek $row );
        }else {
            
    $this -> run ();
        }
    }
    musst nur feof() vor verarbeitung ausführen, damit keine fehlere auftreten.
    jetzt muss ich mal das mit ner datei versuchen die 196628 datensätze hat :)
     
  10. #9 17. Oktober 2014
    Zuletzt bearbeitet: 17. Oktober 2014
    AW: import csv große mengen

    so,

    stand der dinge eigentlich sehr gut. bis auf die blöden 500ter server error.

    ich führe mit 'php import.php' das script aus.

    1. anfrage per curl welche imports zu tun sind.
    (z.b. supplier.csv, category.csv, property.csv, article.csv)

    2. schleife mit curl um per seek (/property/seek/24223) eigene DB zu befüllen ala June.
    sehe doch einige vorteile erstmal alles in die DB festzuhalten um dann das richtige import auszuführen. gerade für article perfekt.

    supplier und category rattern durch und sind fix eingetragen.
    property und article machen mir zu schaffen.
    gerade propertys mit 200000 einträgen.
    nach ner zeit bekomme ich eben 500ter error.
    hab das gefühl das die andere seite sich verhaspelt mit den vielen crul anfragen.

    teste gerade mit sleep(3) das mal zu verlangsamen.
    PHP:
    public function  exeCute  ( $link $seek = '' ) {
        
    $result  $this -> call ( $link . $seek );
        if(
    $result -> data -> seek  !=  'done' ){
            echo 
    $link . '/seek/' . $result -> data -> seek . "\r\n" ;
            
    sleep ( 3 );
            
    $this -> exeCute ( $link '/seek/' . $result -> data -> seek );
        }
        return 
    true ;
    }
    naja 3 sek. schlaf bei 200000 einträgen macht zu viel zeit mit nix tun :(
    aber bis jetzt kommen keine abbrüche.

    daher nun zum neuen problem.
    was kann ich tun das zu beschleunigen ohne sleep und den 500ter error?

    ich hab jetzt schon 4 versionen mit unterschiedlichen ansätzen.
    einige haben den memory belastet (behoben) aber der 500ter error macht mir zu schaffe :(

    // edit
    das script läuft nun schon seit 1,5 std. ohne abbrüche.
    es wurden bisher alle supplier, category und 153k propertys eingetragen.
     
  11. #10 17. Oktober 2014
    AW: import csv große mengen

    Das läuft seit 1.5 std? Kann ich mir nicht vorstellen ...
    Du nutzt da nen rekursiven Aufruf der dir zwangsweise nen stack-overflow erzeugen wird :D

    Deswegen habe ich meine Funktion auch "reload_oder_neuer_prozess" genannt.
     
  12. #11 17. Oktober 2014
    AW: import csv große mengen

    ne, läuft.
    liegt wohl am max_time_out.
    der macht schön brav seine sache.
    aber halt langsam.
     
  13. #12 17. Oktober 2014
    AW: import csv große mengen

    Bis dann

    Fatal error: Allowed memory size of ... bytes exhausted (tried to allocate .... bytes) in ... on line ...

    kommt.

    Du wurdest gewarnt :D
     
  14. #13 17. Oktober 2014
    AW: import csv große mengen

    hehe, ne
    es hätten nur noch 5k einträge gefehlt.
    ich flipp noch aus :(

    // edit
    propertys (196136) sind drin, hurra.
    hab die einträge von 100 auf 400 erhöht.
     

  15. Videos zum Thema
Die Seite wird geladen...
Similar Threads - import große mengen
  1. Antworten:
    0
    Aufrufe:
    2.006
  2. Antworten:
    5
    Aufrufe:
    1.459
  3. Antworten:
    7
    Aufrufe:
    1.097
  4. Antworten:
    2
    Aufrufe:
    2.533
  5. bootstrap less @import problem

    onip , 29. Januar 2014 , im Forum: Webdesign
    Antworten:
    2
    Aufrufe:
    794