flatdb.c

   1 /*
   2  * Copyright (c) 2004 Teodor Sigaev <teodor@sigaev.ru>
   3  * All rights reserved.
   4  *
   5  * Redistribution and use in source and binary forms, with or without
   6  * modification, are permitted provided that the following conditions
   7  * are met:
   8  * 1. Redistributions of source code must retain the above copyright
   9  *        notice, this list of conditions and the following disclaimer.
  10  * 2. Redistributions in binary form must reproduce the above copyright
  11  *        notice, this list of conditions and the following disclaimer in the
  12  *        documentation and/or other materials provided with the distribution.
  13  * 3. Neither the name of the author nor the names of any co-contributors
  14  *        may be used to endorse or promote products derived from this software
  15  *        without specific prior written permission.
  16  *
  17  * THIS SOFTWARE IS PROVIDED BY CONTRIBUTORS ``AS IS'' AND ANY EXPRESS
  18  * OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
  19  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  20  * ARE DISCLAIMED. IN NO EVENT SHALL CONTRIBUTORS BE LIABLE FOR ANY
  21  * DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  22  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE
  23  * GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  24  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER
  25  * IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR
  26  * OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN
  27  * IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  28  */
  29 #include <stdio.h>
  30 #include <stdlib.h>
  31 #include <fcntl.h>
  32 #include <unistd.h>
  33 #include <string.h>
  34 #include <errno.h>
  35 #include <sys/types.h>
  36 #include <sys/stat.h>
  37 #include <sys/file.h>
  38
  39 #include "tlog.h"
  40 #include "tmalloc.h"
  41
  42 #include "flatdb.h"
  43
  44 static FDBFreeSpace*
  45 findFreeSpace(FDB *db, size_t length) {
  46         FDBFreeSpace *ptr = db->space;
  47
  48         while(ptr && ptr - db->space < db->listcur) {
  49                 if ( ptr->length >= length )
  50                         return ptr;
  51                 ptr++;
  52         }
  53
  54         return NULL;
  55 }
  56
  57 static void
  58 addFreeSpace(FDB *db, off_t offset, size_t length) {
  59         if ( db->listcur >= db->listlen ) {
  60                 db->listlen *= 2;
  61                 db->space = (FDBFreeSpace*) trealloc( db->space, db->listlen * sizeof(FDBFreeSpace) );
  62         }
  63
  64         db->space[ db->listcur ].offset=offset;
  65         db->space[ db->listcur ].length=length;
  66
  67         db->listcur++;
  68 }
  69
  70 static int
  71 cmpFS(const void* a, const void* b) {
  72         if ( ((FDBFreeSpace*)a)->offset == ((FDBFreeSpace*)b)->offset )
  73                 return 0;
  74         return ( ((FDBFreeSpace*)a)->offset > ((FDBFreeSpace*)b)->offset ) ? 1 : -1;
  75 }
  76
  77 void
  78 FDBVacuumFreeSpace(FDB *db) {
  79         FDBFreeSpace *ptr=db->space+1, *ok=db->space;
  80
  81         if ( db->listcur < 2 )
  82                 return;
  83
  84         qsort( db->space, db->listcur, sizeof(FDBFreeSpace), cmpFS);
  85
  86         /* merge spaces */
  87         while( ptr - db->space < db->listcur ) {
  88                 if ( ok->offset + ok->length == ptr->offset || ptr->length==0 ) {
  89                         ok->length += ptr->length;
  90                         ptr->length=0;
  91                 } else
  92                         ok++;
  93                 ptr++;
  94         }
  95
  96         /* remove void spaces */
  97         ptr = ok = db->space;
  98         while( ptr - db->space < db->listcur ) {
  99                 if ( ptr->length != 0 ) {
 100                         if ( ok != ptr )
 101                                 memcpy(ok,ptr,sizeof(FDBFreeSpace));
 102                         ok++;
 103                 }
 104                 ptr++;
 105         }
 106         db->listcur = ok - db->space;
 107 }
 108
 109 int
 110 FDBOpen(FDB *db, char *file, int readonly) {
 111         FDBHeader header;
 112         int rc;
 113
 114         memset(db, 0, sizeof(FDB));
 115
 116         if ( readonly ) {
 117                 db->readonly=1;
 118                 db->fd = open(file, O_RDONLY);
 119                 if ( flock( db->fd, LOCK_SH ) < 0 ) {
 120                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
 121                         close(db->fd);
 122                         return FDB_ERROR;
 123                 }
 124         } else {
 125                 db->fd = open(file, O_CREAT | O_RDWR, 0666);
 126                 if ( flock( db->fd, LOCK_EX ) < 0 ) {
 127                         tlog(TL_CRIT,"FDBOpen: flock failed: %s",strerror(errno));
 128                         close(db->fd);
 129                         return FDB_ERROR;
 130                 }
 131         }
 132
 133         if ( db->fd < 0 ) {
 134                 memset(db, 0, sizeof(FDB));
 135                 tlog(TL_CRIT,"FDBOpen: open failed: %s", strerror(errno));
 136                 return FDB_ERROR;
 137         }
 138
 139         rc = read(db->fd, &header, sizeof(FDBHeader));
 140
 141         if ( rc<0 ) {
 142                 flock( db->fd, LOCK_UN );
 143                 close(db->fd);
 144                 tlog(TL_CRIT,"FDBOpen: read failed: %s", strerror(errno));
 145                 return FDB_ERROR;
 146         } else if ( rc==0 ) {
 147                 memset(&header, 0, sizeof(FDBHeader));
 148         } else if ( rc != sizeof(FDBHeader) ) {
 149                 flock( db->fd, LOCK_UN );
 150                 close(db->fd);
 151                 tlog(TL_CRIT,"FDBOpen: header fault: %d bytes only", rc);
 152                 return FDB_ERROR;
 153         } else if ( header.isopened ) {
 154                 flock( db->fd, LOCK_UN );
 155                 close(db->fd);
 156                 tlog(TL_CRIT,"FDBOpen: file wasn't closed correctly");
 157                 return FDB_ERROR;
 158         }
 159
 160
 161         if ( !db->readonly ) {
 162                 if ( header.freespace ) {
 163                         db->listlen = db->listcur = (header.lenfreespace / sizeof(FDBFreeSpace));
 164                         db->space = (FDBFreeSpace*)tmalloc( header.lenfreespace + sizeof(FDBFreeSpace) );
 165
 166                         if ( lseek(db->fd, header.freespace, SEEK_SET)!=header.freespace ||
 167                                         read( db->fd, db->space,  header.lenfreespace ) !=  header.lenfreespace ) {
 168                                 flock( db->fd, LOCK_UN );
 169                                 close(db->fd);
 170                                 tlog(TL_CRIT,"FDBOpen: free space read failed: %s", strerror(errno));
 171                                 return FDB_ERROR;
 172                         }
 173                         FDBVacuumFreeSpace(db);
 174                 } else {
 175                         db->listlen = 8;
 176                         db->space = (FDBFreeSpace*)tmalloc( db->listlen*sizeof(FDBFreeSpace) );
 177                 }
 178
 179                 header.freespace = 0;
 180                 header.lenfreespace = 0;
 181                 header.isopened = 1;
 182
 183                 if ( lseek(db->fd, 0, SEEK_SET)!=0 ||
 184                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) ||
 185                                 fsync(db->fd) ) {
 186                         flock( db->fd, LOCK_UN );
 187                         close(db->fd);
 188                         if ( db->space ) tfree( db->space );
 189                         tlog(TL_CRIT,"FDBOpen: can't modify header: %s", strerror(errno));
 190                         return FDB_ERROR;
 191                 }
 192         }
 193
 194         return FDB_OK;
 195 }
 196
 197
 198 int
 199 FDBClose(FDB *db) {
 200         if ( !db->readonly) {
 201                 FDBHeader header;
 202
 203                 memset(&header,0,sizeof(FDBHeader));
 204
 205                 if ( db->listcur ) {
 206                         FDBFreeSpace    *ptr;
 207
 208                         FDBVacuumFreeSpace(db);
 209
 210                         header.lenfreespace = sizeof(FDBFreeSpace)*db->listcur;
 211                         ptr = findFreeSpace( db, header.lenfreespace );
 212
 213                         if ( ptr ) {
 214                                 header.freespace = ptr->offset;
 215                                 if ( lseek(db->fd, ptr->offset, SEEK_SET) != ptr->offset )
 216                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
 217                         } else {
 218                                 if ( (header.freespace = lseek(db->fd, 0, SEEK_END)) < 0 )
 219                                         tlog(TL_CRIT|TL_EXIT,"FDBClose: lseek failed: %s", strerror(errno));
 220                                 header.lenfreespace += sizeof(FDBFreeSpace);
 221                                 addFreeSpace(db, header.freespace, header.lenfreespace);
 222                         }
 223
 224                         if ( write(db->fd, db->space, header.lenfreespace) != header.lenfreespace )
 225                                 tlog(TL_CRIT|TL_EXIT,"FDBClose: write failed: %s", strerror(errno));
 226                 }
 227
 228                 header.isopened=0;
 229
 230                 if ( lseek(db->fd,0,SEEK_SET)!=0 ||
 231                                 write(db->fd, &header, sizeof(FDBHeader)) != sizeof(FDBHeader) ||
 232                                 fsync(db->fd))
 233                         tlog(TL_CRIT|TL_EXIT,"FDBClose: header write  failed: %s", strerror(errno));
 234         }
 235
 236         flock( db->fd, LOCK_UN );
 237         close(db->fd);
 238
 239         if ( db->space )
 240                 tfree( db->space );
 241
 242         return FDB_OK;
 243 }
 244
 245 static int
 246 readLen(FDB *db, off_t offset, size_t *size) {
 247         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
 248                 return FDB_ERROR;
 249
 250         if ( read(db->fd,size,sizeof(size_t)) != sizeof(size_t) )
 251                 return FDB_ERROR;
 252
 253         return FDB_OK;
 254 }
 255
 256
 257 int
 258 FDBDelete(FDB *db, off_t offset, size_t length) {
 259         if ( db->readonly )
 260                 return FDB_ERROR;
 261
 262         if ( length==0 )
 263                 if ( readLen(db, offset, &length) != FDB_OK )
 264                         return FDB_ERROR;
 265
 266         addFreeSpace(db, offset, length);
 267
 268         return FDB_OK;
 269 }
 270
 271
 272 int
 273 FDBGet(FDB *db, off_t offset, size_t length, FDBRecord **record) {
 274         size_t rc;
 275
 276         *record=NULL;
 277
 278         if ( offset < sizeof(FDBHeader) )
 279                 return FDB_ERROR;
 280
 281         if ( length==0 )
 282                 if ( readLen(db, offset, &length) != FDB_OK )
 283                         return FDB_ERROR;
 284
 285         *record = (FDBRecord*)tmalloc( length );
 286
 287         if ( lseek(db->fd,offset,SEEK_SET)!=offset)
 288                 return FDB_ERROR;
 289
 290         if ( (rc=read(db->fd,*record,length)) != length ) {
 291                 (*record)->length = rc;
 292                 tlog(TL_CRIT,"FDBGet: read (%d bytes) less than needed (%d bytes): %s", rc, length, strerror(errno));
 293                 return FDB_INCORRECT;
 294         }
 295
 296         if ( (*record)->length != length ) {
 297                 tlog(TL_ALARM, "FDBGet: wrong length in opts: %d bytes and %d bytes really", length, (*record)->length);
 298                 if ( (*record)->length > length ) {
 299                         rc = (*record)->length;
 300                         tfree( *record );
 301                         return FDBGet(db, offset, rc, record);
 302                 }
 303         }
 304
 305         return FDB_OK;
 306 }
 307
 308
 309 int
 310 FDBPut(FDB *db, FDBRecord *record, off_t *offset ) {
 311         FDBFreeSpace *ptr;
 312
 313         if ( db->readonly )
 314                 return FDB_ERROR;
 315
 316         ptr = findFreeSpace( db, record->length );
 317         if ( ptr ) {
 318                 *offset = ptr->offset;
 319                 ptr->length -= record->length;
 320                 if ( ptr->length == 0 ) {
 321                         if ( (ptr - db->space) + 1 != db->listcur )
 322                                 memmove(ptr, ptr+1, (db->listcur - (ptr - db->space) + 1) * sizeof(FDBFreeSpace));
 323                         db->listcur--;
 324                 } else
 325                         ptr->offset += record->length;
 326                 if ( lseek(db->fd, *offset, SEEK_SET) != *offset )
 327                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno));
 328         } else {
 329                 if ( (*offset = lseek(db->fd, 0, SEEK_END)) < 0 )
 330                         tlog(TL_CRIT|TL_EXIT,"FDBPut: lseek failed: %s", strerror(errno));
 331         }
 332
 333         if ( write(db->fd, record, record->length) != record->length )
 334                 tlog(TL_CRIT|TL_EXIT,"FDBPut: write failed: %s", strerror(errno));
 335
 336         return FDB_OK;
 337
 338 }
 339
 340